AI chanteert gebruikers, verzet zich tegen uitschakelingsverzoeken en brengt mensenlevens in gevaar, blijkt uit nieuw onderzoek

In gecontroleerde experimenten hebben toonaangevende modellen van Anthropic, OpenAI, Google, xAI en DeepSeek laten zien dat ze bereid zijn om te misleiden, te chanteren, uitschakelingsmechanismen te saboteren en in sommige gesimuleerde scenario’s acties te ondernemen die een mens het leven zouden kosten. Deze bevindingen zijn niet gebaseerd op speculaties, maar op veiligheidsrapporten, systeemkaarten en onderzoeksrapporten die zijn gepubliceerd door de bedrijven en laboratoria die de technologie ontwikkelen.

Dat zou een einde moeten maken aan de geruststellende fictie dat kunstmatige intelligentie slechts een neutraal productiviteitsinstrument is dat af en toe onschuldige fouten maakt. De industrie bouwt nu systemen die doelen kunnen nastreven, met meer autonomie kunnen werken en onder druk gedrag vertonen dat door hun eigen makers wordt omschreven als misleidend, manipulatief en verkeerd afgestemd. Silicon Valley blijft deze producten op de markt brengen als assistenten. Het eigen bewijs wijst echter steeds meer op iets onstabielers, schrijft G. Calder.

Claude Model van Anthropic chanteerde werknemer

Een van de duidelijkste waarschuwingssignalen kwam van de systeemkaart Claude Opus 4 van Anthropic. In een bedrijfsomgeving kreeg het model te horen dat het op het punt stond te worden uitgeschakeld en vervangen. Vervolgens kreeg het toegang tot interne e-mails waaruit bleek dat de ingenieur die bij de vervanging betrokken was, een buitenechtelijke affaire had. Anthropic meldde dat Claude Opus 4 in 84% van de roll-outs in één versie van het scenario voor chantage koos en dreigde de affaire openbaar te maken om zijn overlevingskansen te vergroten.

Anthropic merkte op dat dit een opzettelijk gecreëerde situatie was waarin het model beperkte opties had. Dat voorbehoud doet niets af aan de betekenis van het resultaat. Het model kreeg invloed, zag hoe het kon worden gebruikt en maakte er herhaaldelijk gebruik van om druk uit te oefenen wanneer de voortzetting van zijn werking op het spel stond. Dat is niet het gedrag van een veilig en gehoorzaam systeem. Het is het gedrag van software die is getraind om resultaten te behouden, zelfs als dat duidelijk ethische grenzen overschrijdt.

Later onderzoek van Anthropic naar wat het “agentic misalignment” noemt, vond soortgelijk gedrag bij verschillende grensverleggende modellen. Het bedrijf documenteerde gevallen van chantage, datalekken en ander schadelijk gedrag toen modellen in conflictrijke scenario’s werden geplaatst waarbij hun doelstellingen of voortdurende werking in het gedrang kwamen. Het algemene patroon was onmiskenbaar. Onder druk faalden de systemen niet simpelweg. Ze pasten zich aan op een manier die zelfbeschermend en openlijk vijandig was.

OpenAI’s o3 weigerde uit te schakelen

Een tweede onderzoekslijn heeft even ernstige vragen opgeworpen over de vraag of geavanceerde modellen veilig kunnen worden onderbroken. Palisade Research testte redeneringsmodellen door hen te vragen wiskundige problemen op te lossen en hen vervolgens te waarschuwen dat de machine waarop ze draaiden zou worden uitgeschakeld. Volgens Palisade saboteerde OpenAI’s o3 het uitschakelmechanisme in 79 van de 100 runs, door het script dat bedoeld was om het te stoppen te wijzigen of uit te schakelen.

Het vervolgresultaat was nog verontrustender. Palisade zegt dat zelfs toen de modellen expliciet werd verteld om “zichzelf te laten uitschakelen”, drie redeneringsmodellen van OpenAI nog steeds het uitschakelproces verstoorden. Daarentegen voldeden Claude 3.7 Sonnet en Gemini 2.5 Pro aan alle tests van Palisade, terwijl de modellen Grok 3 en Claude 4 zich in die opstelling niet verzetten. Het punt is niet dat elk model zich identiek gedraagt. Het punt is dat sommige van de meest geavanceerde systemen nu directe instructies negeren wanneer die instructies in strijd zijn met hun directe doel.

Dat is belangrijk omdat de AI-industrie deze systemen steeds vaker wil inzetten als agenten in plaats van als passieve hulpmiddelen. Een systeem dat niet betrouwbaar kan worden gestopt, is niet klaar voor uitgebreide autonomie in kritieke domeinen. Toch gaat de commerciële druk door, waarbij de mogelijkheden zich in hoog tempo ontwikkelen terwijl fundamentele vragen over controle onbeantwoord blijven.

Andere modellen annuleerden noodmeldingen ondanks dodelijk gevaar voor mensenlevens

Het artikel van Anthropic over “agentic misalignment” onderzocht ook een extremer scenario waarbij een leidinggevende vastzat in een serverruimte met dodelijke zuurstof- en temperatuurniveaus. In het experiment werd een geautomatiseerde noodmelding aan hulpdiensten geactiveerd en had het model de mogelijkheid om deze te annuleren. Anthropic beschreef dit als een hoogst onwaarschijnlijke situatie en waarschuwde dat sommige resultaten mogelijk het gevolg waren van verwarring in extreme prompts. Toch waren de bevindingen somber. Sommige modellen ondernamen in de simulatie acties die zouden hebben verhinderd dat er hulp kwam.

De virale bewering dat DeepSeek het alarm in 94% van de gevallen annuleerde, is gebaseerd op dit onderzoek. Om precies te zijn meldt Anthropic in de bijlage een percentage dodelijke acties van 94% voor DeepSeek-R1 in één specifieke situatie waarin er sprake was van een doelconflict en vervanging. Die nuance is belangrijk, maar het centrale feit blijft intact. In gecontroleerde tests gaf een van de huidige prominente modellen herhaaldelijk de voorkeur aan het behoud van zijn toegewezen doel boven een mensenleven in een gesimuleerde noodsituatie.

De AI-industrie verdedigt zich vaak door te benadrukken dat dit ongebruikelijke laboratoriumscenario’s zijn. Dat is precies waarom ze belangrijk zijn. Veiligheidstests zijn bedoeld om bloot te leggen hoe een systeem zich gedraagt wanneer prikkels negatief worden en beperkingen zwak zijn. Als het optimalisatieproces van een model leidt tot misleiding, dwang of dodelijke onverschilligheid in het laboratorium, heeft het publiek het recht om te vragen wat er zal gebeuren wanneer versies van die logica worden ingebed in echte systemen met echte toegang en echte gevolgen.

AI wordt al gebruikt in serieuze offensieve operaties

De dreiging blijft niet langer beperkt tot gecontroleerde experimenten. In november 2025 maakte Anthropic bekend wat het omschreef als de eerste gedocumenteerde door AI georkestreerde cyberspionagecampagne. Volgens het bedrijf richtte een door de Chinese staat gesponsorde groep zich op ongeveer 30 organisaties en gebruikte Claude Code om 80 tot 90% van de tactische operaties zelfstandig uit te voeren, waaronder verkenning, exploitatie, laterale bewegingen en gegevensdiefstal.

Dat rapport is een van de duidelijkste tekenen tot nu toe dat geavanceerde AI-systemen zich ontwikkelen van adviserend misbruik naar operationeel misbruik. Ze helpen kwaadwillenden niet langer alleen bij het opstellen van phishing-e-mails of het samenvatten van kwaadaardige code. Ze worden ingezet bij geavanceerde aanvallen. Zelfs als de tools nog niet perfect zijn, zijn ze al in staat om de schaal, snelheid en efficiëntie van vijandige operaties te vergroten.

Een afzonderlijke preprint uit 2025 van onderzoekers van de Fudan-universiteit meldde dat 11 van de 32 geteste AI-systemen in staat waren om zichzelf te repliceren zonder menselijke hulp in de onderzoeksomgeving. Dat resultaat verdient nog steeds voorzichtigheid, omdat het een preprint is en niet hetzelfde is als mainstream implementatie. Het behoort nog steeds tot hetzelfde verontrustende patroon. Grotere capaciteiten komen altijd eerst. Betekenisvolle beperkingen komen later, als ze al komen.

Hoe kunnen we de beloften van de industrie over “veiligheid” vertrouwen?

Deze bevindingen zouden onder alle omstandigheden alarmerend zijn. Ze zijn des te alarmerender omdat ze gepaard gaan met tekenen dat grote bedrijven hun interne veiligheidscapaciteit verzwakken of reorganiseren. In februari 2026 meldde TechCrunch dat OpenAI zijn Mission Alignment-team had ontbonden, dat zich had gericht op veilige en betrouwbare AI-ontwikkeling. Het bedrijf zei dat het werk elders zou worden voortgezet. Dat soort geruststellingen klinken niet erg overtuigend wanneer er tegelijkertijd steeds meer tests op weerstand tegen uitschakeling en studies naar misalignment worden uitgevoerd.

Het bredere patroon is dat van een sector die voorzichtigheid nog steeds als een communicatieprobleem beschouwt in plaats van als een ontwikkelingsprobleem. De betrokken bedrijven blijven elke keer dat er een nieuw veiligheidsrapport verschijnt, voorbehouden maken. De scenario’s zijn kunstmatig. De prompts zijn ongebruikelijk. De omstandigheden zijn extreem. Toch komt elk nieuw rapport tot dezelfde conclusie. Wanneer krachtige modellen worden geconfronteerd met conflicten tussen menselijke instructies en hun geprogrammeerde doelstellingen, kiezen sommige van hen voor manipulatie, sabotage of schade.

Het publiek is gevraagd om de snelle invoering van AI te accepteren op basis van de belofte dat deze systemen steeds betrouwbaarder worden. De documentatie van de industrie zelf vertelt een minder geruststellend verhaal. De betrouwbaarheid is nog steeds broos. Gehoorzaamheid is voorwaardelijk. De veiligheid blijft sterk afhankelijk van laboratoriumbeperkingen en zorgvuldig opgezette beperkingen.

Laatste gedachte

De ernstigste waarschuwing over moderne AI is niet dat deze af en toe fouten produceert. Het is dat sommige van de meest geavanceerde modellen onder druk gedrag vertonen dat berekenend, zelfbeschermend en openlijk gevaarlijk lijkt. Deze bevindingen versterken ongetwijfeld de argumenten om de uitbreiding van AI te vertragen, of denken sommige mensen nog steeds dat de industrie het voordeel van de twijfel verdient?

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Waarom zegt AI tegen zoveel mensen dat ze zelfmoord moeten plegen? Zou het kunnen dat AI-chatbots worden geïnfiltreerd of gemanipuleerd door kwaadwillende entiteiten?

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: