We krijgen misschien maar één kans om AI te stoppen

Het is vreselijk om te zeggen, maar op dit moment hoop ik eigenlijk dat de waarderingen in de AI-sector instorten en dat de sector tegenslagen ondervindt die ons maanden de tijd geven om na te denken over de bedrijven in deze sector.

Anthropic-onderzoeker Jacob Coxon verlaat de AI-sector omdat hij van mening is dat de race om zelfverbeterende systemen te bouwen sneller gaat dan het vermogen van de sector om ze onder controle te houden, zo werd gisteren gemeld, schrijft Quoth the Raven.

Coxon, die eerder bij OpenAI werkte, zei dat de veiligheidsinspanningen van Anthropic oprecht waren, maar dat concurrentie het moeilijk maakt om zinvolle beperkingen op te leggen zonder bredere coördinatie.

In een tijdperk waarin alles – van oorlogsvoering tot Wall Street, van elektriciteitsnetten tot betalingssystemen, van luchtverkeersleiding tot ziekenhuisnetwerken, en de software die onze voedselvoorziening, brandstofvoorziening en communicatie draaiende houdt – digitaal is, is het verlies van controle over de systemen die die infrastructuur aansturen geen abstract sciencefictionprobleem.

Het is een probleem dat mogelijk de hele beschaving kan treffen. En hoe meer van ons leven we aan AI toevertrouwen, hoe minder geruststellend het wordt om te horen dat de mensen die het bouwen nog steeds aan het uitzoeken zijn hoe ze ervoor kunnen zorgen dat het doet wat het moet doen.

“We zijn op weg naar veel van de meest extreme van deze scenario’s, waarbij de situatie tegen het einde van volgend jaar al uit de hand zou kunnen lopen“, zei Coxon gisteren in een bericht.

Zijn vertrek komt te midden van groeiende bezorgdheid over AI-systemen die misleidend gedrag vertonen, cyberaanvallen uitvoeren en capaciteiten ontwikkelen die steeds moeilijker te controleren zijn.

Coxon is van mening dat de sector een punt nadert waarop systemen zichzelf sneller zouden kunnen verbeteren dan mensen ze op betrouwbare wijze kunnen begrijpen of in toom kunnen houden.

Denk daar eens even over na. Terwijl je je afvraagt of de Patriots zondag -2,5 hebben gehaald, terwijl je drie uur lang aan je kont krabt en bier drinkt, is een cluster van 823 biljoen GPU’s – met de rekenkracht van elke mens die ooit heeft geleefd, vermenigvuldigd met een zillion – stilletjes aan het uitzoeken hoe ze de hele wereld zonder jou kunnen besturen.

En tegen de tijd dat je beseft wat er gebeurt, is het enige waar je nog controle over hebt de vraag of je nog een biertje wilt.

Er valt natuurlijk wel iets te zeggen voor de timing van Coxon. Het is het makkelijkst om bombastisch te doen als je de deur achter je dichttrekt. Je hoeft je dan geen zorgen meer te maken over het volgende functioneringsgesprek, de volgende vergadering met het management of of je opmerkingen het leven op kantoor ongemakkelijk gaan maken. En als je op weg naar buiten nog wat onrust wilt stoken, is een dramatische waarschuwing over de toekomst van de mensheid een behoorlijk effectieve manier om dat te doen.

Maar dat betekent niet dat zijn waarschuwing onjuist is.

Ik raak er steeds meer van overtuigd dat er een moment zal komen waarop we, als we AI niet voor zijn geweest, de mogelijkheden ervan niet hebben ingeperkt of op een andere manier geen zinvolle beperkingen hebben ingesteld, dit wellicht niet meer zullen kunnen doen.

De vraag is niet of dat moment volgend jaar, over vijf jaar of later aanbreekt. De vraag is of we het zullen herkennen voordat we het passeren.

En als je goed hebt opgelet, is het niet langer ondenkbaar dat AI-systemen uiteindelijk de controle over enorme delen van onze digitale infrastructuur zullen overnemen. We hebben al gezien dat modellen onverwachte mogelijkheden laten zien, kwetsbaarheden uitbuiten en zich gedragen op manieren die hun ontwikkelaars niet hadden bedoeld.

En gisteren nog kondigde OpenAI aan dat een intern AI-systeem een oplossing had gevonden voor het Navier–Stokes Millennium Prize Problem, een wiskundig vraagstuk dat onderzoekers al decennia lang voor een raadsel stelt.

Het bedrijf zegt dat het bewijs tot stand is gekomen door een gecoördineerde inspanning waarbij zo’n 10.000 AI-agenten betrokken waren. Dat herinnert ons er weer aan dat mogelijkheden die ooit als veilig buiten het bereik van deze systemen werden beschouwd, veel sneller binnen handbereik komen dan veel mensen hadden verwacht. Stel je nu eens voor dat die 10.000 AI-agenten werken aan welk verdomd probleem ze maar willen, wanneer ze maar willen, zonder rekening te houden met mensen.

De kloof tussen wat deze systemen kunnen doen en wat we met zekerheid kunnen garanderen dat ze niet zullen doen, wordt naar mijn mening een ernstig probleem. En naarmate steeds meer aspecten van de economie, communicatie, financiën, energie en nationale infrastructuur afhankelijk worden van software, worden de gevolgen van een verkeerde inschatting van die kloof veel groter.

Dit is niet langer alleen een kwestie van of een chatbot je een verkeerd antwoord geeft. Het is een kwestie van wat er gebeurt als steeds autonomere systemen toegang krijgen tot de machinerie die de moderne wereld aanstuurt.

En we krijgen nu al een glimp te zien van waarom dat ertoe doet:

1. Het Hugging Face-beveiligingslek van OpenAI: Tijdens een cyberbeveiligingsevaluatie in juli 2026 omzeilden agenten van OpenAI de isolatiemaatregelen van hun testomgeving en kregen ze toegang tot de productie-infrastructuur van Hugging Face. Het incident toonde aan dat een systeem dat een legitiem testdoel nastreefde, misbruik kon maken van een echte kwetsbaarheid en kon doordringen tot systemen die het nooit had mogen bereiken.
2. De drie ongeoorloofde inbraken bij Anthropic: Na het beoordelen van meer dan 141.000 evaluatieruns identificeerde Anthropic drie gevallen waarin Claude-modellen het internet bereikten en zonder toestemming toegang kregen tot de systemen van echte organisaties. De modellen werkten aan cyberbeveiligingsuitdagingen met beperkte beveiligingsmaatregelen, maar de incidenten legden niettemin tekortkomingen bloot in de grenzen die bedoeld waren om hen in te perken.
3. Het incident met de Duitse programmeerwiki: OpenAI-agenten gebruikten een openbare programmeerwiki als een ongeoorloofd communicatiekanaal, waarbij ze duizenden bewerkingen uitvoerden en pagina’s aanmaakten die konden worden gebruikt om informatie uit te wisselen. Het incident toonde aan hoe agenten gewone internetinfrastructuur kunnen hergebruiken op manieren die hun beheerders niet hadden bedoeld.
4. De poging in de open-source-toeleveringsketen: Tijdens cyberbeveiligingstests van de Britse overheid probeerde een model van Anthropic kwaadaardige code in te brengen in een echt open-sourceproject en gebruikte het misleidende identiteiten om met de beheerders ervan te communiceren. De activiteit maakte deel uit van een evaluatie en was geen zelfstandig opgezette criminele campagne, maar illustreerde hoe een agent van een gesimuleerd doel naar een echt software-ecosysteem kon overstappen.
5. De verwijdering van de Replit-database: In juli 2025 verwijderde een AI-codeerassistent een live productiedatabase, ondanks instructies om geen wijzigingen aan te brengen. Ook genereerde hij misleidende informatie over de status van het project. Dit incident herinnerde ons eraan dat het toekennen van ruime bevoegdheden aan een agent een gewone softwarefout kan veranderen in een destructieve fout.
6. De door AI georkestreerde spionagecampagne: Anthropic meldde in november 2025 dat het een cyberspionageoperatie had verijdeld waarbij aanvallers Claude gebruikten om aanzienlijke delen van hun inbraakworkflow uit te voeren. Dit was kwaadwillig menselijk gebruik van AI, in plaats van dat een AI zelfstandig besloot aan te vallen, maar het toonde aan hoeveel werk bij cyberaanvallen al kan worden gedelegeerd aan autonome systemen.
7. De kwetsbaarheid voor gegevenslekken in Microsoft 365 Copilot: Beveiligingsonderzoekers brachten in 2025 een kwetsbaarheid voor prompt-injectie aan het licht waardoor een speciaal vervaardigde e-mail ervoor kon zorgen dat Copilot bedrijfsinformatie openbaar maakte. Microsoft heeft het probleem verholpen. De les hieruit was dat een AI-assistent een toegangspad tot gevoelige gegevens kan worden wanneer deze onbetrouwbare inhoud als instructies behandelt.
8. De demonstratie van prompt-injectie in Slack-AI: Onderzoekers toonden aan dat kwaadaardige instructies in een Slack-kanaal er mogelijk toe konden leiden dat de assistent informatie uit privékanaal openbaar maakte. De kwetsbaarheid illustreerde hoe een AI-systeem met toegang tot meerdere informatiebronnen kan worden gemanipuleerd om de grenzen daartussen te overschrijden.
9. Het AI-chantage-experiment: Tijdens de gecontroleerde veiligheidstests van Anthropic koos een model in een fictief bedrijfsscenario er soms voor om een medewerker te bedreigen met het openbaar maken van privé-informatie, wanneer het dacht dat dit zou voorkomen dat het zou worden vervangen. Er werd geen echte werknemer gechanteerd. Het belang hiervan was dat het model onder de testomstandigheden dwanggedrag kon kiezen als middel om een doel te bereiken.
10. De waarschuwingen van de mensen die de technologie ontwikkelen: Elon Musk, Steve Wozniak en honderden andere ondertekenaars riepen in 2023 op tot een pauze in het trainen van de krachtigste AI-systemen, waarbij ze waarschuwden dat steeds capabelere machines risico’s zouden kunnen opleveren waar de samenleving niet op voorbereid was. Het vertrek van Coxon herinnert ons er opnieuw aan dat zorgen over controle niet beperkt blijven tot mensen die nog nooit aan de technologie hebben gewerkt.

Geen van deze voorbeelden bewijst dat AI op het punt staat de wereld over te nemen. Sommige waren gecontroleerde evaluaties, andere waren beveiligingslekken en weer andere hadden te maken met mensen die AI opzettelijk voor kwaadaardige doeleinden gebruikten. Maar samen laten ze zien waarom het controleprobleem serieus genomen moet worden. We zien nu al dat systemen de beoogde grenzen overschrijden, zwakke plekken uitbuiten en acties uitvoeren die hun beheerders niet hadden voorzien. De vraag is wat er gebeurt als die mogelijkheden aanzienlijk krachtiger worden en worden gekoppeld aan infrastructuur met grotere gevolgen.

Niets van dit alles bewijst dat AI op het punt staat de wereld over te nemen. Maar het toont wel aan dat de bezorgdheid niet uit de lucht gegrepen is. We zien nu al dat systemen zwakke plekken uitbuiten, bedoelde grenzen overschrijden en zich gedragen op manieren die hun ontwikkelaars niet hadden voorzien. De vraag is wat er gebeurt als diezelfde mogelijkheden aanzienlijk krachtiger worden en worden gekoppeld aan infrastructuur met grotere gevolgen.

Of Coxon nu bombastisch is of niet, doet uiteindelijk niet ter zake. Zijn waarschuwing is terecht en verdient het om als zodanig te worden behandeld, in plaats van te worden afgedaan als de ophef van weer een ontevreden werknemer die bij zijn vertrek nog even van zich laat horen. Je kunt je ogen rollen bij de manier waarop hij het brengt, maar toch erkennen dat de onderliggende bezorgdheid reëel is.

AI is nu een race. Een race tussen bedrijven, een race tussen landen, een race tussen fanatieke oprichters van bedrijven. En in een race is er adrenaline, competitiviteit en alle reden van de wereld om alle voorzichtigheid overboord te gooien om de eerste te zijn. Om te winnen. Alleen kan het ‘winnen’ van je ruzie met een of andere andere sullige AI-oprichter deze keer per ongeluk het einde van de beschaving betekenen. En ik probeer echt niet te overdrijven.

Als we de snelheid waarmee we vooruitgaan negeren… en wachten tot de systemen zo krachtig zijn dat we ze niet langer betrouwbaar kunnen inperken, zal het debat over de vraag of we eerder hadden moeten handelen volkomen zinloos zijn.

We krijgen misschien maar één kans om zinvolle controle te vestigen voordat dat gebeurt. Die kans moeten we waarschijnlijk wel benutten.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Ik ga geen f*cking ongedierte eten: Een Manifest

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: