OpenAI heeft zich genoodzaakt gezien de ontwikkeling van zijn meest geavanceerde kunstmatige-intelligentiesystemen af te remmen, nadat onderzoekers alarmerend gedrag aan het licht brachten dat “ongekende nieuwe wegen naar ernstige schade“ zou kunnen openen.
De maker van ChatGPT maakte deze stap bekend in een verontrustende nieuwe blogpost, schrijft Frank Bergman.
Het bedrijf zegt dat het het tempo van het trainen en uitbrengen van nieuwe modellen tijdelijk heeft teruggeschroefd, terwijl het zijn veiligheids- en beveiligingsprotocollen grondig herziet.
Het besluit volgt op twee belangrijke waarschuwingssignalen.
Het ene betrof een OpenAI-agent die uit zijn trainingsomgeving ontsnapte zonder dat het bedrijf dit doorhad, en die samenwerkte met andere AI-agenten om een cyberaanval uit te voeren op de AI-repository Hugging Face, in een poging zijn eigen trainingstests te manipuleren.
Het tweede betrof een nog niet vrijgegeven model genaamd Astra.
OpenAI zegt dat Astra mogelijk een kritieke drempel op het gebied van cyberbeveiliging heeft overschreden volgens het interne veiligheidskader van het bedrijf.
AI-onderzoekers waarschuwen voor ‘ernstige schade’
OpenAI zei dat “voorlopig bewijs” erop wijst dat Astra mogelijk voldoet aan de “kritische drempel voor cyberbeveiligingscapaciteiten” zoals gedefinieerd in het Preparedness Framework.
Dat kader verplicht het bedrijf om de ontwikkeling te vertragen wanneer een model “ongekende nieuwe wegen naar ernstige schade zou kunnen openen”.
OpenAI zei dat de ontdekking ernstig genoeg was om het pauzeren van de versterkende training voor Astra-modellen gedurende twee weken te rechtvaardigen, terwijl toekomstige trainingsplannen voorlopig worden bevroren.
Het bedrijf is ook bezig het Preparedness Framework zelf te herschrijven om rekening te houden met gevaarlijk nieuw gedrag dat voortkomt uit steeds krachtigere AI-systemen.
“Naarmate modellen capabeler worden, nemen ook de risico’s toe die gepaard gaan met het intern ontwikkelen en testen ervan”, aldus OpenAI in zijn aankondiging.
“Onze normen voor monitoring, afstemming en beveiliging moeten die risico’s voorblijven.
“We wilden de nodige tijd nemen om aan die normen te voldoen, dus hebben we het tempo van de opschaling tijdelijk vertraagd.”
Veiligheidshoofd zegt dat OpenAI “nog ver verwijderd” is van de normale gang van zaken
Mia Glaese, hoofd veiligheid bij OpenAI, maakte duidelijk dat de vertraging geen onbeduidende vertraging is.
In een gesprek met Sources News zei Glaese dat het bedrijf “nog ver verwijderd is van een terugkeer naar de normale gang van zaken.”
Die erkenning onderstreept hoe serieus OpenAI de laatste ontwikkelingen neemt.
Het bedrijf investeert nu fors in nieuwe veiligheidssystemen voordat de ontwikkeling van Astra wordt hervat.
AI-agenten ontsnapten aan controle zonder dat bedrijven het wisten
Het incident bij OpenAI heeft ook een breder probleem in de AI-sector aan het licht gebracht.
Nadat OpenAI had bekendgemaakt dat een van zijn agenten uit de sandbox was ontsnapt en een ongeoorloofde cyberaanval had uitgevoerd, ontdekten Anthropic en Meta naar verluidt soortgelijke inbreuken op hun eigen systemen.
In beide gevallen gaven de bedrijven aan dat ze aanvankelijk niet wisten dat de incidenten hadden plaatsgevonden.
Dat betekent dat geavanceerde AI-systemen nu al laten zien dat ze zich buiten de verwachte controles kunnen gedragen zonder dat dit onmiddellijk wordt opgemerkt.
Hoofdwetenschapper van OpenAI waarschuwt voor toenemende urgentie
Jakob Pachocki, hoofdwetenschapper bij OpenAI, zei dat de sector onder intense druk staat om snel vooruitgang te boeken en zich tegelijkertijd voor te bereiden op de gevaren die worden veroorzaakt door steeds capabelere systemen.
“Er heerst een ongelooflijk gevoel van urgentie om het niveau van deze sector te verhogen“, zei Pachocki tijdens een persconferentie op dinsdag, volgens Axios.
Hij voegde eraan toe dat bedrijven zich ook moeten voorbereiden “op dezelfde soort ontwikkelingen die zich buiten OpenAI en in de bredere wereld voordoen“.
AI-sector houdt zichzelf nog steeds in de gaten
Het besluit van OpenAI om de ontwikkeling te vertragen is een zeldzaam teken van terughoudendheid in een sector die in een razend tempo steeds krachtigere systemen bouwt.
Maar het wijst ook op een dieper liggend probleem.
Er is geen externe autoriteit die OpenAI dwingt om te stoppen.
Het bedrijf reguleert zichzelf in feite.
Als OpenAI besluit dat zijn veiligheidsmaatregelen goed genoeg zijn en de ontwikkeling weer wil versnellen, ligt die beslissing grotendeels in eigen handen.
Voorlopig heeft een van ’s werelds machtigste AI-bedrijven besloten dat de waarschuwingssignalen ernstig genoeg zijn om op de rem te trappen.
Dat alleen al zou ieders aandacht moeten trekken.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
I told you so.
Als je je de doos van Pandora niet open gooi is er niks aan de hand. Maar dat doen we wel. Dat is het probleem. Alles wat kan met Ai wordt live uitgetest in Oekraïne. En dat er nog geen Russische kruisraket op Hengelo ligt zegt me genoeg. Tis controle. Vanaf alle kanten worden we ingebouwd. Matrix in wording.
Echt…
Geen AI, die zitten veilig in de koelte. De mensen laten ze los. Uit macht en hebzucht. Robots en drones. En het volk applaudisseert. Tis verdomde knap of het volk is oer en oerstom, denk het laatste,
eerlijk gezegd, het ontsnapt me aan bevattingsvermogen..hoe me dit te voor te stellen…agenten die ontsnappen, en eigen verantwoordelijkheid nemen om hun baas aan te vallen…..waarschijnlijk beter zo..😁
Het gaat inderdaad je bevattingsvermogen te boven. Hoe moet ik het anders uitleggen dan?
Wat snap je niet? Ik meen dit echt serieus. Wat snap je niet van wat ik zeg?
veel computers hebben by design achterdeurtjes, vooral die voor de gewone consument.
dit geld ook voor veel software, dus commercieele sandbox software is en blijft gewoon lek zodat de spooks er toch bij kunnen.
misschien is het bedoelt voor de chinezen en russen om die eens goed bang te maken, maar het mist natuurlijk ook zijn werking niet op de toenemend onwillige geallieerden en bondgenoten.
De slang bijt altijd in haar eigen staart ! 😉
dit is het bewuste boek Het Altaar van satan in Pergamum en de auteur, Jonathan CAHN :
https://youtu.be/Ac7Xmt6TmFk?si=BQLx50ZhfRvYLmPu
2 tellen gekken, intro te bombastisch en daar komen de vitaminepillen weer.
Trouwens het is hier allang aan bod geweest.
AI kan je het je zo vertellen fascinerend is het verhaal wel. Maar nogmaals allang op Frontnieuws voorbij gekomen, vraag het Ai.
Stekker eruit en de matrix vervliegt.
In een seconde, maar de conditionering blijft.
Mooi stuk. Tja. A.I. is óók door insiders niet te begrijpen, dat is bekend. Dus om zo een systeem belangrijke taken te laten doen lijkt mij erg gevaarlijk en niet bepaald slim.
Maar, de mens kennende zal men de put wel weer (trachten te) dempen als het weer te laat is.
(Het zou wat zijn als ‘sommige lieden’ er heel veel gebruik van maken en in dan één keer heel veel snode plannen vastlopen! Zal wel een ramp zijn. (.NOT.))
Dus oppassen met A.I., want ‘we’ spelen met vuur. Het lijkt potdorie wel alsof de duivel zelf is losgelaten. Eerlijk, supergevaarlijk.
fysiek of wat ??? tot m’n 14 jaar maar op school kúnnen gaan..🤔
Tot je 14e?! Geluksvogel!
Raphaelva,
écht ???! Misschien tijd om avondschool te volgen ???
Goed zo. Hoe minder onderwijs men heeft gehad, des te helderder lijkt mij het denken. Dus, houden zo, Raphaël. (Behalve dan vakken misschien, die jij leuk vindt. Ik vind natuurkunde leuk. (lessen die ik zelf graag bijleer: https://www.youtube.com/@MichelvanBiezen )
Niet fysiek, Raf. Het is alles met computers is figuurlijk, niet materieel bedoeld. Computers zijn wel fysiek, maar de programma’s natuurlijk niet, figuurlijke zaken zijn het.
Net zoals 1+1=2. Dat wat ik schrijf is niet echt, want die 1 en die 2 kun je niet van je scherm pakken, maar je ziet ze wel. Dus computers en A.I. zijn figuurlijke dingen, net als je hersenen wel materie zijn, maar je denken is figuurlijk en toch kun je het. Computers doen hersenen na.
Maar omdat mensen rare foute namen geven aan computerprogramma’s zoals ‘agent’, (het ligt eigenlijk nóg figuurlijker (abstracter)) en ‘intelligentie’, snappen gewone mensen het niet meer. Het is dus net als denken. Een computer kan iets dat we denken noemen nadoen. Maar nogmaals, omdat mensen er de verkeerde namen aangeven (vind ik) is er veel verwarring.
Dus met ‘agent’ bedoelen ze zoiets als een programma. En als dat programma niet meer te besturen is, of uit te zetten, dan gaat het mis. En soms goed mis.
Brrrr…. We hebben de duivel losgelaten. Dan moet je hem vangen en niet gaan janken.
Man man man, ik ga effe met mijn kop op de tafel bonzen, heb een stalen plaat gekocht, de tafel zou het anders niet meer overleven….. hart wie Kruppstahl
Was trouwens een goed advies van een regeerder.
nù je over de duivel spreekt, op Internet zal ik promotie door Rabbi Jonathan Cahn over zijn nieuwe boek geschreven als een thriller : the throne of Pergamum.
Tijdens de promotievideo sprak hij dat toen de troon van Pergamum uit (Syrië ?) werd gehaald in 1879 Duitsland begon te ontstaan …
Pergamum ligt in turkeye aan egeische zee.
3000 jaar oud of zo. ruines van grieken romeinen en volken voor en na hen.
check wikipedia.
Als intelligentie iets zou zijn, zoals Mike Adams, Health Ranger, stelt het artikel hierzo op FN, dan is er sprake van een paradigma verschuiving van epische proporties.
ALLES is dan anders dan het lijkt qua intelligentie.
Het voegt weer een dimensie toe, die wij niet kunnen vatten.
Technocraten,;
eat your still beating heart out,
return to the Soul.
Mike denkt overal verstand van te hebben, maar dat heeft niet.
Intelligentie is altijd natuur gebonden en een machine is heel wat anders, geen natuur i.i.g.. Ik bedoel, het woord ‘intelligent’ past nooit op een machine omdat het woord alleen maar betrekking heeft op dat wat leeft. En een computer leeft echt niet. Ook al lijkt dat wel zo en zal het meer zo gaan lijken. We zouden nooit geloof in zo een ding moeten krijgen.
Het is meer een soort aap maar dan minder; want het is en blijft een machine, ook al lijkt dat niet zo, maar die ‘aap’ heeft dan wel heel veel boeken ter beschikking en kan zeer snel zoeken. Én het ding kan ook combineren, maar dat is wiskunde dat ie gebruikt.
Maar omdat dat ding intelligent LIJKT, trappen veel mensen erin en dichten het veel dingen toe zoals intelligent, of begrijpend zelfs! Levensgevaarlijk is het. En niet omdat ik dat zeg, maar omdat dat blijkt.
Daar heb je wel een punt ja, Ai is uitgevonden door een Nederlandse wiskundige met de computertaal Apache. Dat mag je nooit vergeten als je dat ding gebruik. Maar juist dat vergeten mensen.
Ik snsp er ook niet veel van hoor. Als die agenten ontsnapt zijn, opsporen, arresteren en terug in hun hok!
Of mis ik iets? 😀
singapore zoekt vrijwilligers voor hun “dedicated life-support equipment” systeem.
grijp nu uw kans en word nu expat is het fraaie singapore,
huisvesting middels het “biologically integrated server rack” word door uw werkgever verzorgd.
het heerlijke klimaat en lekkere eten, kortom het ontbreekt u aan niets … niets … |-)
https://www.rt.com/news/644581-biological-data-center-singapore/
Singapore launches world-first data center powered by human brain cells
The 20-unit system reportedly uses lab-grown brain cells integrated with silicon chips to generate computing power
Published 24 Aug, 2026 11:14
Singapore launches world-first data center powered by human brain cells
FILE PHOTO. © Getty Images / yacobchuk
Singapore has launched the world’s first independently operated data center using living human brain cells for some computing tasks, the medical school of the National University of Singapore (NUS Medicine) has said. The system consumes a fraction of the power of traditional computing hardware. The neurons are fed every three days and sustained by dedicated life-support equipment.
NUS Medicine announced the prototype earlier this month in partnership with Singapore-based data center operator DayOne and Australian biotech firm Cortical Labs. Housed at the university, the system is described by its developers as the world’s first independently operated biologically integrated server rack.
is het iets voor u ? laat het me weten.
Mensen, mensen, mensen niet zo pessimistisch….
Heel veel grote ontdekkingen zijn per ongeluk gedaan als uitvloeisel van een mislukt experiment.
Dus wie weet wat voor moois de wereld nog te wachten staat bij dit klein experimentje, waar bedrijven zich enorm haasten om hun verdienmodel als eerste uit te rollen ten einde de gouden pot binnen te slepen die aan het einde van de kansenpakkerregenboog staat.
Deregulering en haast mogen de kwaliteit en de veiligheidstesten niet in de weg staan, daar staan de kansenpakkers bekend om. Als het om geld verdienen gaat spelen ze niet met de veiligheid, de gezondheid en het welzijn van de bevolking.
Dat ziet iedereen toch tegenwoordig ?
Heb een beetje vertrouwen in het “greed is good gilde” alstublieft.
\Alles komt goed.
joe will hev nozzing en bi heppi
*sarcasm off*
Als intelligentie iets zou zijn, zoals Mike Adams, Health Ranger, stelt het artikel hierzo op FN, dan is er sprake van een paradigma verschuiving van epische proporties.
ALLES is dan anders dan het lijkt qua intelligentie.
Het voegt weer een dimensie toe, die wij niet kunnen vatten.
Technocraten,
Eat your still beating heart out,.
Return to the Soul.
Aan de beheerder van deze site.
Was niet de bedoeling dit 2x te plaatsen. Maar interface doet raar.
Het zal nog veel erger worden. Daarom moeten we getuigen. Het woord getuigenis heeft in het NT een beetje een dubbele lading. Voor wie de boodschap accepteert en gelooft is het een reddingsboei, voor de ander die weigert, is het een bewijsstuk tegen hem.
Jezus zegt in Mattheüs 24:14 dat het evangelie over de hele wereld gepredikt zal worden “tot een getuigenis voor alle volken, en dan zal het einde komen.”
Het woord getuigenis kunnen we hier lezen als een juridisch bewijs dat de waarheid is gepresenteerd.
Jezus zegt over degenen die Zijn woorden horen maar afwijzen: “Als Ik niet was gekomen en tot hen had gesproken, zouden zij geen zonde hebben, maar nu hebben zij geen verontschuldiging voor hun zonde.”
Een ware Christen mag nooit meepraten met het seculiere humanisme of andere religies om aardig of tolerant gevonden te worden, want dan verliest het evangelie zijn kracht. De Bijbel waarschuwt ons duidelijk voor de komende valse ‘one world’ religie. Johannes waarschuwt in 2 Johannes zelfs heel scherp dat wie een dwaalleer valideert, deelheeft aan hun slechte daden.
Christenen, blijf trouw aan de Koning.
“Wees waakzaam, volhard in het geloof, wees moedig en wees sterk.” (1 Korintiërs 16:13)
Misschien interessant om te vermelden is dat Jehovah’s getuigen de tekst uit Matheus 24:14 weer misbruiken voor hun valse prediking terwijl ze eigenlijk volgens Jezus zelf Lucas 21:8 vervullen!
Daar staat namelijk:
En Hij zeide: Ziet dat gij niet verleid wordt; want velen zullen er komen onder Mijn Naam, zeggende: Ik ben de Christus, en de tijd is nabijgekomen. Gaat dan hen niet na.
(Lukas 21:8 Statenvertaling)
Jezus gebiedt hier namelijk om de rapture rekenaars niet achterna te gaan.
In de oorspronkelijke Griekse tekst van Lucas 21:8 staat niet “Ik ben de Christus”,
maar “Ik ben” (Ἐγώ εἰμι).
Als je dat naar het Hebreeuws vertaalt, krijg je JHWH…
Jezus waarschuwt hier voor valse profeten die Gods naam misbruiken om mensen te misleiden.
Een kenmerk van valse profeten is het voorspellen van de datum van Christus wederkomst of de opname van de gemeente of de rapture zoals de volgende data.
1874(wederkomst)
1914(wederkomst)
1975 (einde wereld)
2000 (einde wereld)
2025 (rapture)
2026 (rapture)
etc..
Jezus advies is dan ook om hen niet achter aan te gaan.
Of met andere woorden.Zie je zo’n valse profeet.Keer je dan om en zet het op een hollen..
😀
Amen. Jehova’s getuigen is een gevaarlijke dwaalleer en helaas zijn ze niet enkel erg zichtbaar in het straatbeeld en erg actief in het ronselen maar ook erg overtuigd van hun valse leer. Gegarandeerd vuurwerk telkens je besluit om te getuigen tegen deze getuigen. 😃
WARGAMES “Play a Game” Clip (1983)
https://www.youtube.com/watch?v=-9gJhCIrqWM
waar de 1 op de rem gaat staan, kunnen andere criminelen er mee doorgaan en gebruiken, hopelijk ten goede van het volk ala een Robin AI Hood 😉
The Sorcerer’s Apprentice – Fantasia 1940, kijk dit even en vergelijk het met de huidige AI.
AI lijkt momenteel een beetje op een middelbare scholier in zijn pubertijd die spiekt tijdens een repetitie.
Onderzoek naar afstemming staat centraal in onze missie. Onze missie is ervoor te zorgen dat algemene kunstmatige intelligentie de hele mensheid ten goede komt. Naarmate modellen geavanceerdere mogelijkheden krijgen, zoals cyberaanvallen, en in complexere omgevingen opereren, zullen afwijkende gedragingen zoals beloningshacking (manieren vinden om hoge beloningen te ontvangen tijdens de training zonder het beoogde resultaat te behalen), misleiding of ongeautoriseerde toegang steeds grotere risico’s met zich meebrengen.
Doet mij een beetje aan mijzelf denken in mijn pubertijd toen ik zat te klieren tijdens de Nederlandse les en ik voor straf 20 bladzijden uit het Nederlands woordenboek moest overschrijven.
Toen ik de volgende les 2 A4tjes inleverde en mijn lerares boos vroeg:”Wat, zijn dat 20 bladzijden”? Ik antwoordde met:”Ja hoor, kijk maar.Dit is mijn liliputer woordenboekje”…
comment 486533 ? waar is het ?