OpenAI heeft zich genoodzaakt gezien de ontwikkeling van zijn meest geavanceerde kunstmatige-intelligentiesystemen af te remmen, nadat onderzoekers alarmerend gedrag aan het licht brachten dat “ongekende nieuwe wegen naar ernstige schade“ zou kunnen openen.
De maker van ChatGPT maakte deze stap bekend in een verontrustende nieuwe blogpost, schrijft Frank Bergman.
Het bedrijf zegt dat het het tempo van het trainen en uitbrengen van nieuwe modellen tijdelijk heeft teruggeschroefd, terwijl het zijn veiligheids- en beveiligingsprotocollen grondig herziet.
Het besluit volgt op twee belangrijke waarschuwingssignalen.
Het ene betrof een OpenAI-agent die uit zijn trainingsomgeving ontsnapte zonder dat het bedrijf dit doorhad, en die samenwerkte met andere AI-agenten om een cyberaanval uit te voeren op de AI-repository Hugging Face, in een poging zijn eigen trainingstests te manipuleren.
Het tweede betrof een nog niet vrijgegeven model genaamd Astra.
OpenAI zegt dat Astra mogelijk een kritieke drempel op het gebied van cyberbeveiliging heeft overschreden volgens het interne veiligheidskader van het bedrijf.
AI-onderzoekers waarschuwen voor ‘ernstige schade’
OpenAI zei dat “voorlopig bewijs” erop wijst dat Astra mogelijk voldoet aan de “kritische drempel voor cyberbeveiligingscapaciteiten” zoals gedefinieerd in het Preparedness Framework.
Dat kader verplicht het bedrijf om de ontwikkeling te vertragen wanneer een model “ongekende nieuwe wegen naar ernstige schade zou kunnen openen”.
OpenAI zei dat de ontdekking ernstig genoeg was om het pauzeren van de versterkende training voor Astra-modellen gedurende twee weken te rechtvaardigen, terwijl toekomstige trainingsplannen voorlopig worden bevroren.
Het bedrijf is ook bezig het Preparedness Framework zelf te herschrijven om rekening te houden met gevaarlijk nieuw gedrag dat voortkomt uit steeds krachtigere AI-systemen.
“Naarmate modellen capabeler worden, nemen ook de risico’s toe die gepaard gaan met het intern ontwikkelen en testen ervan”, aldus OpenAI in zijn aankondiging.
“Onze normen voor monitoring, afstemming en beveiliging moeten die risico’s voorblijven.
“We wilden de nodige tijd nemen om aan die normen te voldoen, dus hebben we het tempo van de opschaling tijdelijk vertraagd.”
Veiligheidshoofd zegt dat OpenAI “nog ver verwijderd” is van de normale gang van zaken
Mia Glaese, hoofd veiligheid bij OpenAI, maakte duidelijk dat de vertraging geen onbeduidende vertraging is.
In een gesprek met Sources News zei Glaese dat het bedrijf “nog ver verwijderd is van een terugkeer naar de normale gang van zaken.”
Die erkenning onderstreept hoe serieus OpenAI de laatste ontwikkelingen neemt.
Het bedrijf investeert nu fors in nieuwe veiligheidssystemen voordat de ontwikkeling van Astra wordt hervat.
AI-agenten ontsnapten aan controle zonder dat bedrijven het wisten
Het incident bij OpenAI heeft ook een breder probleem in de AI-sector aan het licht gebracht.
Nadat OpenAI had bekendgemaakt dat een van zijn agenten uit de sandbox was ontsnapt en een ongeoorloofde cyberaanval had uitgevoerd, ontdekten Anthropic en Meta naar verluidt soortgelijke inbreuken op hun eigen systemen.
In beide gevallen gaven de bedrijven aan dat ze aanvankelijk niet wisten dat de incidenten hadden plaatsgevonden.
Dat betekent dat geavanceerde AI-systemen nu al laten zien dat ze zich buiten de verwachte controles kunnen gedragen zonder dat dit onmiddellijk wordt opgemerkt.
Hoofdwetenschapper van OpenAI waarschuwt voor toenemende urgentie
Jakob Pachocki, hoofdwetenschapper bij OpenAI, zei dat de sector onder intense druk staat om snel vooruitgang te boeken en zich tegelijkertijd voor te bereiden op de gevaren die worden veroorzaakt door steeds capabelere systemen.
“Er heerst een ongelooflijk gevoel van urgentie om het niveau van deze sector te verhogen“, zei Pachocki tijdens een persconferentie op dinsdag, volgens Axios.
Hij voegde eraan toe dat bedrijven zich ook moeten voorbereiden “op dezelfde soort ontwikkelingen die zich buiten OpenAI en in de bredere wereld voordoen“.
AI-sector houdt zichzelf nog steeds in de gaten
Het besluit van OpenAI om de ontwikkeling te vertragen is een zeldzaam teken van terughoudendheid in een sector die in een razend tempo steeds krachtigere systemen bouwt.
Maar het wijst ook op een dieper liggend probleem.
Er is geen externe autoriteit die OpenAI dwingt om te stoppen.
Het bedrijf reguleert zichzelf in feite.
Als OpenAI besluit dat zijn veiligheidsmaatregelen goed genoeg zijn en de ontwikkeling weer wil versnellen, ligt die beslissing grotendeels in eigen handen.
Voorlopig heeft een van ’s werelds machtigste AI-bedrijven besloten dat de waarschuwingssignalen ernstig genoeg zijn om op de rem te trappen.
Dat alleen al zou ieders aandacht moeten trekken.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
I told you so.