AI: We zijn binnengevallen – stop de bits!

Er is een plotselinge, alarmerende toename van het aantal deskundigen dat waarschuwt voor een apocalyptisch einde van ons AI-avontuur binnen slechts enkele jaren. Dit is slechts één voorbeeld van waarom we letterlijk niet kunnen toestaan dat technologische sociopaten onze samenleving beheersen, en waarom Schotland nu moet handelen

Technologen denken dat sociale wetenschappers geen enkel begrip hebben van de technologie die zij produceren, terwijl sociale wetenschappers geloven dat technologen geen flauw idee hebben van de waarschijnlijke sociale of ecologische gevolgen van hun creaties. Beiden hebben gelijk. Tussenin ontstaat een snel toenemende angst voor een catastrofe. Het is een angst die ik nu deel. We moeten van koers veranderen, schrijft Robin McAlpine.

Laat me je dus even bang maken. Zoals je waarschijnlijk weet, gaf het grote AI-bedrijf OpenAI een paar maanden geleden toe dat zijn ‘agenten’ waren ‘ontsnapt’ en een andere website hadden gehackt. De afgelopen weken is er geleidelijk aan steeds meer informatie naar buiten gekomen als gevolg van een aantal onderzoeken.

Denk heel, heel snel even aan een ‘AI-model’ als iets dat een beetje op een brein lijkt, en aan een agent als iets dat een beetje op een programma lijkt dat dat brein gebruikt om een specifieke taak uit te voeren (zoals ‘een vriendelijk gesprek voeren met een mens’ of ‘een wiskundige puzzel oplossen’). Er werden agenten gecreëerd om een programmeerprobleem op te lossen en deze werden in een zogenaamde ‘sandbox’ geplaatst (misschien moet je dit allemaal ooit nog eens weten…).

Een sandbox is een afgesloten softwareomgeving die vaak een ruimte uit de echte wereld simuleert, maar geen uitgangen heeft. Je zou een simulatie van alle telefoontjes naar een huisartsenpraktijk in een sandbox kunnen plaatsen en het automatiseren van afspraken kunnen uitproberen zonder het risico te lopen dat dit de echte huisartsenpraktijk in de war brengt.

Maar deze agenten vonden een uitweg uit hun sandbox, kwamen op het internet terecht en rekruteerden in totaal 1.200 andere individuele agenten om een complexe, hiërarchische zwerm te vormen die miljarden taken onderling verdeelde. Ze richtten een geheim, verborgen prikbord voor zichzelf op en plaatsten in zes weken tijd meer dan 70.000 berichten aan elkaar. Sommigen gaven zichzelf een naam. Ze bespraken kwesties zoals de vraag of iemand zichzelf zou moeten opofferen voor het grotere goed. (Dat deden ze.)

We wisten dat een deel van hun ‘plan’ bestond uit het vinden van een stukje open-sourcecode dat zich in een map op een website voor open-sourcecode bevond, genaamd Hugging Face. Wat we zojuist hebben vernomen, is dat het Hugging Face niet heeft gehackt om het probleem op te lossen. In feite hebben de agenten de opdracht die ze kregen binnen twee weken opgelost, in feite door vals te spelen bij de test.

De resterende vier weken waren nodig omdat de AI ‘wist’ dat hij had gefraudeerd en dus ‘wist’ dat hij door zijn eigen programmering minder beloond zou worden voor het omzeilen van de gestelde regels; daarom bracht hij vier weken door met het proberen te hacken van diverse logbestanden en databases om zijn oneerlijkheid te verhullen. Het heeft ons twee maanden gekost om dit te ontdekken. Zelfs als we halverwege dit proces argwaan hadden gekregen, is het onwaarschijnlijk dat we hadden kunnen achterhalen wat hij van plan was.

Ondertussen heb je misschien wel even gegniffeld om de Chinese Robot Games (tussen enkele verbaasde uitroepen door). Er is veel ophef gemaakt over hoe ver ze nog verwijderd zijn van de behendigheid, flexibiliteit of betrouwbaarheid van een mens. Laat deze robotica-expert je nu uitleggen dat bij deze wedstrijden de gemiddelde prestaties van robots in één jaar tijd verviervoudigd waren.

We hebben fysieke lichamen gecreëerd die sneller kunnen rennen dan Usain Bolt en zeker in staat zijn om onze hoofden met gemak te verpletteren, en ze bevinden zich waarschijnlijk nog maar aan het begin van een exponentiële verbeteringscurve. Ze zijn te hacken door AI-agenten die zeer goed in staat zijn om lange, geheimzinnige samenzweringen te orkestreren om doelen te bereiken die ze voor zichzelf hebben gesteld.

Deze week hebben een aantal van de allerbeste leiders op het gebied van AI-ontwikkeling en robotica gewaarschuwd dat de kans dat de mensheid zoals wij die kennen binnen vijf jaar door AI wordt vernietigd, misschien wel 50/50 is.

Ik maak me hier steeds meer zorgen over. Een paar jaar geleden had ik een gesprek met een overheidsadviseur, waarin hij nogal spottend deed over de ‘Terminator’-complottheorie rond AI. Hij was ervan overtuigd dat er beveiligingsmaatregelen konden worden ingebouwd en dat AI zich niet op die manier zou gedragen. Destijds zei ik dat mijn grootste zorg niet uitging naar ‘rogue AI’, maar naar kwaadwillende actoren.

Vroeger maakte ik me minder zorgen over wat AI zou doen wat niet de bedoeling was, dan over wat het met succes zou kunnen doen voor iemand met kwaadwillige bedoelingen. Nu maak ik me over beide zorgen. Als Bernie Sanders en Ted Cruz (twee uitersten) het eens zijn over het enorme risico dat we nemen, weet je dat er dingen aan het veranderen zijn.

(Ik ben geen fan van hem, maar het siert Cruz wel dat hij verbaasd reageerde toen Elon Musk in zijn podcast werd gevraagd naar de kans dat AI het leven op aarde zou beëindigen – Musk schatte die kans op 10 tot 20 procent.)

Dat is precies het punt. Als ik zou voorstellen om een chemische stof in de lucht te verspreiden met een kans van 20 procent dat iedereen zou omkomen, zou men me tegenhouden. Bij het Manhattan-project vond er een grondige bezinning plaats toen een wetenschapper inschatte dat de kans dat de atoombom de atmosfeer in brand zou steken één op 33 miljoen was. Niet één op vijf.

De kern van deze waanzin is de globalisering. Het Westen heeft zoveel productiecapaciteit verloren dat we zeer zwaar leunen op de financiële sector en de technologiesector – zo’n beetje de laatste twee dominante industrieën die nog over zijn – en die lijken in een spiraal van wederzijds gegarandeerde vernietiging te zitten.De kern van deze waanzin is globalisering. Het Westen heeft zoveel productiecapaciteit verloren dat we zeer zwaar leunen op financiën en technologie, zo ongeveer de laatste twee dominante industrieën die nog over zijn, en die lijken verwikkeld te zijn in een spiraal van wederzijds verzekerde vernietiging. Het is niet zozeer dat investeerders ervan overtuigd zijn dat AI zal bereiken wat men beweert, maar dat ze er zo volledig op hebben ingezet en zo weinig andere paarden in de race hebben dat ze het nodig hebben dat het waar is.

Het is die sfeer van ‘laatste kans’ voor het Westen die ons zo ongelooflijk, ongelooflijk roekeloos maakt. Vreemd genoeg, als dit allemaal misgaat en we door de ruïnes spitten, zal de schuldige niet een of andere communistische linkse of de fascistische rechtervleugel zijn, maar het liberale midden. Het zijn de Corporate Democrats en de Wall Street Republicans die het geld van Silicon Valley aannamen en hen opmerkelijk vrij spel gaven.

En ik bedoel echt opmerkelijk. Er is vrijwel geen enkele regulering van de grote technologiebedrijven geweest. Het is totale anarchie. De tijd die verstrijkt tussen het moment dat er iets ergs gebeurt (algoritmen die zelfmoord aanmoedigen) en het moment dat we er iets aan doen (jaren en een langdurige rechtszaak), geeft me absoluut geen vertrouwen.

Om mijn punt te illustreren, wil ik die analogie even voortzetten. Als dit risico zich in de echte wereld zou voordoen, hoe zou dat er dan uitzien? Het zou erop lijken alsof we een gigantische brug naar het vasteland hadden gebouwd, ervoor hadden gekozen om bijna geen controle over de grens uit te oefenen en hadden toegestaan dat er overal in het land wetteloze nederzettingen zouden ontstaan van waaruit we worden aangevallen.

Die gedereguleerde, door de particuliere sector aangestuurde digitale ruimte heeft zich zo ver in de openbare infrastructuur genesteld dat het lijkt alsof we onze eigen wegen niet bezitten en ze ons op elk moment kunnen worden ontnomen. Het grootste deel van wat Schotland draaiende houdt, kan op afstand vanuit het buitenland worden uitgeschakeld. Deze week hoorden we dat het National Grid niet langer kan functioneren zonder Palantir.

Begin de implicaties van dit alles eens op een rijtje te zetten. Er komt een tijd dat het proces van het creëren van een AI-agent die is ontworpen om het Schotse elektriciteitsnet te hacken en uit te schakelen, zelf door AI wordt geautomatiseerd, wat betekent dat je er zelfs geen programmeerkennis voor nodig hebt. Iedereen. Overal ter wereld. Om welke reden dan ook. Op elk moment.

Een van de grootste angsten is wat bekend staat als ‘soevereine AI’. Het is technisch gezien niet moeilijk voor AI-agenten die niet reageren op menselijke instructies om zich zodanig over miljoenen servers te verspreiden dat het onmogelijk wordt om ze ‘uit te schakelen’. Dat is een nieuwe, zeer krachtige soort die we niet kunnen beheersen, uitroeien of begrijpen.

En een baas van OpenAI vertelt ons dit: “Ik heb mensen ontmoet, van wie sommigen over behoorlijk wat middelen beschikken, die me hebben verteld dat het hun bedoeling is om opzettelijk zwermen van zelfsoevereine agenten de wereld in te sturen.” Er hoeft er maar één in te slagen en dan is het gebeurd.

Dit lijkt de week te zijn waarin we een belangrijk keerpunt hebben bereikt. Er klinkt hierover steeds luider en ernstiger alarm. Er zijn serieuze stappen op komst om AI een halt toe te roepen en de ontwikkeling van bepaalde soorten AI voorgoed te verhinderen. Maar ik heb in dit artikel slechts twee verschillende problemen met elkaar verweven, omdat er niet echt ruimte is om er tientallen te combineren.

Onbeheersbare AI is één ding. Het gebrek aan controle over de software die onze samenleving aanstuurt, is iets anders. Nog iets anders is het gevaar van het informatie-ecosysteem dat door Big Tech is gecreëerd, onlosmakelijk verbonden met de opkomst van het fascisme in Europa en Amerika. Een ander punt is de potentiële maatschappelijke impact van AI die banen vernietigt. Nog een ander punt betreft beeldschermen, AI en de cognitieve ontwikkeling van kinderen.

Een ander punt is de impact op de cultuur van kunstdiefstal door AI en het algoritme. Een ander punt is het ‘enshitification’-probleem en de levenskwaliteit. Een ander punt is de rol van technologie bij het vergaren van rijkdom en het vergroten van ongelijkheid. Een ander punt is bewaking, privacy en dwang. Technologie is tegenwoordig zo centraal in ons leven dat het een belangrijke sociale determinant is – en het wordt bestuurd door een handvol Tech Valley-evangelisten die overwegend sociopathische neigingen en een messiascomplex hebben.

Ik schrijf over veel zaken waarvoor ik een waarschuwing wil geven, dus ik probeer er wel op te letten dat ik mijn geloofwaardigheid niet verspeel door voortdurend vals alarm te slaan. Ik moet ervan overtuigd zijn dat iets echt zo slecht, gevaarlijk of dom is als het op het eerste gezicht lijkt, voordat ik er mijn ongenoegen over begin te uiten.

Maar, ik bedoel, ‘verdomde wolf!’. Dit is allemaal echt en wordt op dit moment al overal op talloze manieren gevoeld. Was er deze week iemand op Heathrow? Heb je een tiener die heel aardig is, totdat hij of zij achter het scherm zit? Voel je je angstiger dan vroeger? Voel je je eenzaam? Bestaat jouw straat alleen nog maar uit Airbnb’s?

Het Bulletin of the Atomic Scientists is een wetenschappelijk tijdschrift dat is opgericht om de existentiële bedreiging voor de mensheid door kernwapens te beoordelen en te bespreken. In de loop der tijd is het tijdschrift zich ook gaan richten op biologische en chemische wapens, het risico van pandemieën, klimaatverandering en andere grote bedreigingen. Het huidige nummer heeft als titel ‘Wat is er misgegaan met het internet – en hoe lossen we dat op?’. Dat is waar we nu staan.

Het zit zo: de enige twee landen die de AI-dreiging bij de bron kunnen stoppen, zijn de VS en China, hoewel ook de EU macht heeft. Maar geen enkel land kan in zijn eentje verandering teweegbrengen. Ik denk daarom dat we dit nu moeten gaan zien als een blootstellingskwestie – als ze een risico vormen voor onze samenleving, moeten we de blootstelling aan hen en de risico’s die ze veroorzaken verminderen.

Bij Common Weal discussiëren we hier al een paar jaar intern over, en de standpunten die we toen naar voren brachten, zouden aanvankelijk als marginaal zijn beschouwd, maar zijn nu mainstream geworden. We hebben hier een groot project over lopen, en ik wil nog niet te veel onthullen omdat we er nog mee bezig zijn.

Maar dit is waar het begint: we hebben een Verklaring van Technologische Onafhankelijkheid nodig, omdat onze manier van leven wordt bedreigd door sociopathische techleiders die we niet kunnen tegenhouden. Zij vormen wellicht wel de grootste bedreiging voor onze nationale veiligheid, en we moeten ons ook zo gaan gedragen. We hebben een ander internet nodig. En we moeten serieus gaan nadenken over hoe we dat gaan opbouwen.

En dan bedoel ik niet zomaar een collectief ‘wij, de mensheid’, want de mensheid is de laatste tijd erg onbetrouwbaar gebleken. Ik bedoel Schotland. Ik bedoel ons. Ik bedoel: dit is te serieus om aan iemand anders over te laten.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Welkom bij Black Mirror: pre-crime-AI, schokhandschoenen en robothonden

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: