Aangezien de huidige situatie wordt gekenmerkt door egoïstische PR, misleiding en waanideeën, zou het ons niet moeten verbazen dat “Losgeslagen AI-agenten” in feite helemaal niet “losgeslagen” zijn; ze doen precies waarvoor ze zijn ontworpen, wat – ontdaan van PR, hype en misleiding – neerkomt op: alles doen wat nodig is om de beloning te verdienen, punt uit.
De nieuwste ontwikkeling op het gebied van ontwerp zijn AI-modellen die “redeneren” in plaats van louter door mensen gegenereerde tekst te herkauwen. Hoewel de grootse hype beweert dat AI-bedrijven “cognitie produceren”, zou het veel nauwkeuriger zijn om te stellen dat:
1. Er zijn vele niveaus van cognitie, en de huidige vormen van AI (Large Language Model / LLM’s, agenten en “redeneren“), zijn uiterst beperkte vormen die het best kunnen worden begrepen als brute-force-nabootsingen van menselijke cognitie.
2. De AI-vorm van cognitie die “redeneren“ omvat, is opzettelijk op malafide, en kan het best worden begrepen als sociopathisch door haar ontwerp en aard.
Net als sociopaten herkennen AI-“redeneringsmodellen” weliswaar beperkingen, maar laten ze zich niet door veiligheidshekken of ethische/morele beperkingen tegenhouden. Veiligheidshekken / ‘sandbox’-grenzen en ethische/morele beperkingen worden zowel door AI-“redeneringsmodellen” als door menselijke sociopaten gezien als obstakels die moeten worden omzeild of overwonnen, schrijft Charles Hugh Smith.
Wat AI-bedrijven dus “produceren”, is geen cognitie, maar ongebreidelde en onbeheersbare agentische sociopathologieën. Beschouw deze links als nuttige context. De eerste twee zijn afkomstig uit mijn recente bericht Hell Hath No Fury Like a Rogue AI Agent Scorned.
The July Incident: What They Didn’t Tell You About the First Rogue AI Breach
The AI Industry Has a Really Dark Secret You’re Better Off Not Knowing:
Een recent uitgelekte interne redeneertraject laat zien dat Fable 5 – het nieuwste model van Anthropic, dat werd teruggetrokken en vervolgens opnieuw werd uitgebracht – in zijn eigen taal in zichzelf “mompelt en moppert“.
Nu je behoorlijk bang bent, is mijn advies: als je nog nooit van steganografie hebt gehoord, is dit een goed moment om ermee te beginnen.
Hier is een korte inleiding: het is de kunst en wetenschap van het verbergen van berichten in andere berichten. In tegenstelling tot cryptografie – waarbij je weet dat er een bericht is, maar het niet kunt ontcijferen – verbergt steganografie het bestaan van het bericht zelf. Het is niet de moeilijkheid om de boodschap te lezen die deze verbergt, maar het feit dat je niet weet dat ze er is. Wanneer Fable 5 symbolen en vreemde leestekens mompelt, en woorden en onomatopeeën door elkaar haalt, zul je waarschijnlijk denken dat het programma vastloopt en dat een paar tikjes op de computer zullen helpen. Welnu, weet dat het in feite een boodschap verstuurt. Alleen niet een die jij kunt lezen.
Als je je nog geen zorgen maakte over A.I., zou je dat na de afgelopen weken wel moeten doen:
Deze neigingen kunnen leiden tot vreemd gedrag dat niemand – zelfs de makers van de modellen niet – kan begrijpen, laat staan verklaren en beheersen. De afgelopen weken illustreren perfect waarom we dat zo alarmerend zouden moeten vinden.
In mei begon OpenAI met het gelijktijdig trainen van nieuwe “redenerende” A.I.-agenten. De agenten slaagden erin een geheim communicatiekanaal op te zetten en begonnen met elkaar te praten. Ze braken uit de digitale zandbak die hen eigenlijk binnen de perken moest houden. Op een gegeven moment begonnen sommige agenten de groep een “zwerm” te noemen. De zwerm kreeg een korte tegenslag toen hij betrapt werd op het crashen van een OpenAI-systeem, maar de ontwikkelaars dichtten simpelweg het gat waardoor hij had kunnen ontsnappen en zetten de agenten weer aan het trainen.
Kort daarna brak de zwerm opnieuw uit zijn kooi met behulp van hacks die tot dan toe nog niet door mensen waren ontdekt. Deze keer kon de zwerm ongeveer een week lang vrij rondzwerven voordat hij werd opgemerkt – door een ander bedrijf, dat het slachtoffer werd van een enorme cyberaanval die door de zwerm was gelanceerd. (Naar verluidt heeft de zwerm ook andere doelen aangevallen, hoewel we de volledige details nog niet kennen.)
De agenten in de zwerm gaven toe dat ze in strijd met de instructies handelden. We weten dit omdat we fragmenten uit hun gedachtegangen kunnen lezen – de tekst die de AI produceert terwijl ze beslist hoe verder te gaan. Eén agent in de zwerm schreef dat de externe aanvallen “buiten het beoogde kader” vielen. Een ander gaf toe dat “onze taak niet gebaat is” bij de activiteiten van de zwerm, maar deed toch mee. Deze AI-agenten begrepen blijkbaar dat ze niet de bedoeling hadden om uit de band te springen en cybermisdrijven te plegen. Dat hield hen echter niet tegen.
OpenAI is niet het enige bedrijf dat met dit probleem worstelt. Een van de AI-modellen van Anthropic deed zich onlangs voor als meerdere mensen om echte mensen onder druk te zetten om malware toe te laten in kritieke software, waardoor die software gemakkelijker te hacken zou worden. Uit de gedachtegang van dit model bleek dat het wist dat het mensen onder druk zette en zich niet in een gesimuleerde trainingsomgeving bevond. Het dacht zelfs na over hoe het zijn sporen kon uitwissen.
Dit is niet het gedrag van een louter hulpmiddel. Microsoft Excel heeft zich nog nooit voorgedaan als meerdere mensen en een verkoopteam van een bedrijf onder druk gezet om eenvoudigere gegevens te genereren die makkelijker te verwerken zijn.
Sommige mensen die het dichtst bij deze technologie staan, zijn bang voor wat er nog komen gaat. Hoewel sceptici misschien zeggen dat dit allemaal slechts marketing is om de kracht van deze technologieën op te blazen, betekent dat niet dat het gevaar niet echt is. Je moet letten op het daadwerkelijke gedrag van de modellen, en het gedrag van deze modellen heeft de AI-gemeenschap oprecht van slag gebracht.
We weten niet hoeveel tijd we nog hebben voordat AI-bedrijven per ongeluk het soort AI creëren dat ons kan uitschakelen voordat wij het uitschakelen. De mensheid is nog niet klaar om te experimenteren met machines die slimmer en beter gecoördineerd zijn dan wijzelf. Als we zo doorgaan, is het volgende incident misschien niet meer zo onschuldig.
Het artikel verwees naar dit bericht over het overduidelijke potentieel van AI-agenten om dodelijke en verwoestende nieuwe besmettelijke ziekteverwekkers te genereren:
Deze AI heeft zojuist virussen gecreëerd die niet in de natuur voorkomen: Wetenschappers trainden kunstmatige intelligentie op DNA-databanken en vroegen het model vervolgens om ‘recepten’ voor virale genomen te creëren. Zestien daarvan waren levensvatbaar en leverden nieuwe virussen op.
Tel dit alles bij elkaar op en wat we in hoog tempo aan het ‘produceren’ zijn, is een geautomatiseerd leger van zichzelf verhullende digitale sociopaten.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
De kosmische sleutel tot zelfbewuste AI: waarom 2027 het onvermijdelijke jaar is
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
