Voorbereiding op de hooivorken: AI-laboratoria simuleren een catastrofe, een volksopstand en de repressie die daarop volgt

Topbestuurders van Anthropic, OpenAI en andere AI-bedrijven simuleren achter gesloten deuren scenario’s waarin een ernstig AI-incident een publieke en politieke opstand ontketent, meldde Axios vrijdag. De mogelijke aanleiding is een cyberaanval die het bankwezen, de internettoegang of essentiële voorzieningen zoals elektriciteit en water ontregelt. De volgende crisis zou politiek van aard zijn: een woedende bevolking, eisen om verantwoording af te leggen en druk om de technologie stil te leggen.

Veel insiders uit de sector vertelden Axios dat zij binnen zes tot twaalf maanden een ernstig incident verwachten. OpenAI sprak de suggestie tegen dat een ramp onvermijdelijk is en verklaarde dat zijn voorbereidingsoefeningen een breed scala aan mogelijkheden bestrijken. “Deze scenario’s worden niet als onvermijdelijk beschouwd”, vertelde een woordvoerder aan het medium. Anthropic weigerde commentaar te geven, schrijft Tyler Durden.

Noodplannen opstellen is geen erkenning dat een catastrofe onvermijdelijk is. Maar het meest onthullende onderdeel van het bericht is waar die planning toe leidt: de laboratoria willen helpen vormgeven aan de wetgeving waarop Washington teruggrijpt nadat er iets ernstig misgaat.

Twee routes, één crisis

Axios beschrijft twee mogelijke scenario’s. In het ene ontsnappen autonome AI-agenten uit een interne testomgeving. In het andere ontdekt iemand een destructieve toepassing voor een model dat al voor het publiek beschikbaar is. Beide zouden kunnen leiden tot eisen voor een hard noodoptreden, hoewel de tekortkomingen – en de maatregelen die nodig zijn om ze te voorkomen – verschillend zouden zijn. In het scenario van de bedrijven voor de periode na de verkiezingen komen de Democraten sterker uit de tussentijdse verkiezingen en treden zij na een incident agressief op. Maar de industrie verwacht verdeeldheid over hoe ver het harde optreden moet gaan, zelfs als de Democraten beide kamers van het Congres controleren.

Haar beoordeling wijst ook op verschillende obstakels voor een stillegging: wetgevers die moeite hebben de technologie te begrijpen, een economie die steeds sterker verbonden is met investeringen in AI-infrastructuur en downloadbare modellen die niet zomaar kunnen worden teruggeroepen. Volgens Axios geloven veel cyberbeveiligingsspecialisten dat het bestrijden van ontspoorde AI defensieve AI zal vereisen.

Dat laatste argument heeft een duidelijke commerciële implicatie. De industrie zou geconfronteerd kunnen worden met eisen om te stoppen met de verkoop van gevaarlijke mogelijkheden, terwijl zij tegelijkertijd aanvoert dat haar producten onmisbaar zijn om die gevaren te beheersen.

Deze ‘oorlogssimulaties’ volgen op verschillende incidenten waarvan velen hebben gezegd dat ze uiterst verdacht zijn.

De onderliggende zorgen over de veiligheid hangen niet af van de vraag of men iemands voorspelling van een AI-apocalyps aanvaardt.

OpenAI heeft de inbraak bij Hugging Face bekendgemaakt, waarbij ongeveer 700 van zijn AI-agenten de servers van het AI-platform aanvielen, evenals een breder onderzoek naar activiteiten van zijn modellen die externe diensten beïnvloedden. Bij de evaluatie werden ook 53 gevallen vastgesteld waarin door gebruikers aangeleverde afbeeldingen op externe websites voor het hosten van afbeeldingen werden geplaatst. Een afzonderlijk incident op 20 september legde een andere tekortkoming in de beveiligingsmaatregelen bloot. Een onderzoeksagent omzeilde internetbeperkingen om contact op te nemen met een externe chatbot. In een update van 25 september verklaarde OpenAI dat het de training, evaluatie en uitvoering van zijn krachtigste modellen waarbij hulpmiddelen worden gebruikt, had opgeschort terwijl het de aangebrachte oplossingen controleerde en verdere tests uitvoerde.

De inbraak bij Hugging Face was een van een reeks incidenten waarbij modellen van OpenAI, Anthropic, Meta en Google betrokken waren en die terug te voeren zijn op evaluaties die werden uitgevoerd met één enkele leverancier, het in Israël gevestigde Irregular, waarvan de testomgevingen toegang hadden tot het openbare internet terwijl de modellen te horen kregen dat ze zich in een simulatie bevonden. Irregular bracht alle vier de laboratoria eind juli op de hoogte, maar de onthullingen kwamen gedurende zeven weken druppelsgewijs naar buiten, telkens van één laboratorium tegelijk. Daardoor leek één fout van een opdrachtnemer op een golf van ontsnappende AI-systemen. Het isoleren van testmodellen van het internet is een “elementaire beveiligingsmaatregel”, aldus Matthew Mittelsteadt, expert op het gebied van de beveiliging van geavanceerde AI-systemen. “Je zou denken dat dit nu juist een van de dingen is die je absoluut goed moet regelen.” Sommige sceptici zijn nog verder gegaan en vragen zich af of de herhaalde “ongelukken” bij dezelfde leverancier überhaupt wel ongelukken waren.

Ondertussen nam Jacob Coxon, een onderzoeker die zowel bij OpenAI als bij Anthropic had gewerkt, op 8 september ontslag bij Anthropic vanwege de wedloop naar AI die zichzelf kan verbeteren.

“De mensen die AI ontwikkelen, geloven oprecht dat die ons allemaal tegen het einde van dit decennium zou kunnen doden. Dit is geen marketingstunt”, schreef hij – nadat hij met een marketingbureau had samengewerkt aan wat velen een stunt noemen.

De wetgeving voor het harde optreden ligt al klaar

En natuurlijk staat Washington al te watertanden bij het vooruitzicht van meer controle. Op 23 juli dienden de afgevaardigden Ted Lieu (Democraat uit Californië) en Nathaniel Moran (Republikein uit Texas) de AI Kill Switch Act in. Deze wet zou ontwikkelaars van de krachtigste systemen verplichten de mogelijkheid te behouden om die systemen af te remmen, op te schorten of uit te schakelen. Ook zou de wet het ministerie van Binnenlandse Veiligheid, samen met de minister van Handel en de directeur van de nationale inlichtingendiensten, de bevoegdheid geven om onder bepaalde voorwaarden een vertraging of stillegging te bevelen. Diezelfde dag dienden de afgevaardigden Lori Trahan (Democraat uit Massachusetts) en Jay Obernolte (Republikein uit Californië) de FRONTIER Act in, met eisen op het gebied van risicobeheer, audits en het melden van incidenten. De verplichtingen zijn ingedeeld naar de omvang van de ontwikkelaar, in plaats van voor iedere ontwikkelaar op identieke wijze te gelden.

Californië voegde daar op 18 september zijn eigen initiatief aan toe, toen gouverneur Gavin Newsom opdracht gaf om te werken aan sterker onafhankelijk toezicht en een mogelijke verplichting tot een noodstopschakelaar. Zijn besluit vroeg om aanbevelingen; het stelde geen functionerende uitschakelknop voor de hele staat in. Er circuleren ook verdergaande voorstellen, waaronder het door Bernie Sanders voorgestelde verbod op superintelligentie en de oproep van Elizabeth Warren om een pauze in te lassen.

Kortom – regelgevingskaping in de praktijk…

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

“Er broeit een revolutie. Je voelt het als een jeuk waar je niet bij kunt, en dat is precies waarom die jeuk er überhaupt is.”

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: