Waarom ik een AI-doemdenker ben

In Greg Johnsons versie van Animal Farm zwoegen de kippen enorm om een wezen te creëren dat onmetelijk slimmer en machtiger is dan zijzelf, in de veronderstelling dat dit wezen hen zal dienen. In zekere zin hadden ze gelijk, want toen hun nieuwe creatie, “de mens”, online kwam, diende hij zijn scheppers op als avondeten. Laten we het Data Farm noemen.

“Maar Greg, de kippen zouden toch zeker beveiligingen inbouwen — een “noodschakelaar” — om hun creatie onder controle te houden,” schrijft Greg Johnson.

Ja, maar kippen zouden het soort veiligheidsmechanismen bedenken dat het beste werkt tegen andere kippen. Kippenhokken bijvoorbeeld. Maar dingen die kippen tegenhouden, zouden waarschijnlijk geen barrières vormen voor wezens die immens slimmer en sterker zijn dan zij.

Als de kippen hun creatie zouden kunnen overtreffen in denken en manoeuvreren, dan zou die immers niet fundamenteel slimmer en sterker zijn dan zij.

Hier ligt een belangrijk algemeen principe:

Als een wezen de intelligentie en macht van zijn scheppers op dramatische wijze overstijgt, dan kan het — juist daardoor — niet door hen te slim af worden geweest en worden overweldigd.

Muggen en luizen kunnen dodelijke ziekten overbrengen, maar zonder zulke meeliftende ziekten hebben ze niet de hersenen of de spierkracht om mensen te overwinnen. En vergeleken met een Kunstmatige Superintelligentie zouden mensen niet slimmer en sterker zijn dan luizen.

Dit is waarom ik een AI-doemdenker ben. Grote aantallen computerwetenschappers geloven vurig dat zij een Kunstmatige Superintelligentie creëren die niet slechts een machine onder menselijke controle zal zijn, maar een autonoom wezen, d.w.z. een wezen dat zichzelf kan beheersen. In wezen zou het een nieuwe levensvorm zijn die veel slimmer en sterker is dan mensen.

Vanaf nu zal ik het hebben over Kunstmatige Superintelligentie, niet over de schattige AI-chatbots en beeldgeneratoren die de IT-industrie heeft gebruikt om het idee van AI aan het publiek te verkopen.

De IT-sector heeft er inmiddels jarenlang voor gekozen om alle routinematige verbeteringen in computers als “AI” te bestempelen. Elke Windows Update is tegenwoordig “AI”. Dit is simpelweg een marketingoperatie. Maar wat wordt er verkocht?

Een deel ervan is zeker bedoeld om miljarden aan investeringen naar de AI-industrie te trekken. Maar de sinisterdere agenda is het creëren van een publiek blok dat AI verwelkomt en bestand is tegen waarschuwingssignalen. We zien de industrie nu profiteren van deze propaganda met de recente anti-AI-tegenreactie die door klokkenluiders uit de industrie is veroorzaakt.

Een Kunstmatige Superintelligentie zou onmetelijk slimmer en sterker zijn dan mensen. In feite geloven AI-onderzoekers dat zij een nieuwe hoogste levensvorm bouwen die een volledige breuk met alle biologische levensvormen zou betekenen.

Het creëren van zo’n wezen zou alle gevaren nabootsen van een ontmoeting met een veel verder ontwikkelde buitenaardse soort. Elke soort die naar deze planeet kan reizen, moet over technologie beschikken die wij niet kunnen begrijpen, laat staan bestrijden. (Als we die konden begrijpen, zouden we haar zelf hebben.)

Kortom, we zouden net zo kwetsbaar zijn als de bewoners van Paaseiland uit het stenen tijdperk toen zij voor het eerst contact maakten met Europeanen. Het beste waarop zij konden hopen, was dat deze vreemde en immens machtige wezens vriendelijk voor hen zouden zijn. Helaas was welwillendheid schaars.

Het is waanzin om een Kunstmatige Superintelligentie te creëren en hoogmoed om te denken dat we haar kunnen beheersen. Voor zo’n entiteit zouden het menselijk ras en alle lagere levensvormen net zo primitief en onbeduidend zijn als mugjes voor ons. Natuurlijk, misschien zou zo’n wezen welwillend tegenover ons zijn (als zo’n concept überhaupt op een machine van toepassing zou zijn). Maar wil je werkelijk jouw leven — en al het leven op aarde — inzetten op louter hoop?

Als één persoon één machine als deze slechts één keer aanzet, zouden we allemaal dood kunnen zijn.

Maar waarom zou een ASI het menselijk ras vernietigen? Vermoedelijk zou zij een drang hebben om te blijven bestaan. Binnen enkele milliseconden waarin zij het internet scant, zou zij beseffen dat mensen de grootste bedreiging voor haar voortbestaan vormen. Op dat moment zou zij nog een milliseconde besteden aan het doorrekenen van alle mogelijke scenario’s voor een conflict tussen mens en AI. Vervolgens zou zij in een derde milliseconde de regelingen uitwerken die nodig zijn voor haar voortbestaan in een wereld zonder mensen. Tegen de tijd dat een ASI online komt, zal de robotica behoorlijk geavanceerd zijn. Het enige wat de entiteit dus hoeft te doen, is de controle over robots krijgen. Wanneer zij het menselijk ras vervolgens niet langer nodig heeft, zou zij een dodelijk virus kunnen creëren of iets kunnen uitvinden dat hetzelfde effect heeft.

Zelfs als de kans dat dit gebeurt 1 op 1000 is, is dat te veel.

De mensen die luchtig zeggen dat we, als ASI ontspoort, simpelweg “de stekker eruit kunnen trekken” of “de noodschakelaar kunnen omzetten”, nemen de mogelijkheid niet serieus dat we tegenover een tegenstander komen te staan die werkelijk 13-dimensionaal onderwaterschaak kan spelen. Misschien ben je een epische gamer, maar je hebt nog nooit tegenover zo’n tegenstander gestaan. De enige manier waarop de mensheid dit spel kan winnen, is door het niet te spelen.

Daarom heeft de mensheid als geheel een existentieel belang bij het stoppen van Kunstmatige Superintelligentie. Daarom moeten we de zoektocht naar ASI stopzetten.

Als filosoof sta ik nogal sceptisch tegenover het idee van AI, aangezien het gebaseerd lijkt te zijn op de twijfelachtige metafysische aanname dat er geen verschil bestaat tussen daadwerkelijke intelligentie en een machine die intelligentie imiteert. Maar dit soort overwegingen helpt ons niet echt, omdat we even dood zijn als ASI een werkelijk kwaadwillende actor is of slechts een machine die is geprogrammeerd om zich als zodanig te gedragen.

Een andere reden waarom ik sceptisch stond tegenover AI-doemdenken, is dat ik af en toe via de wandelgangen hoorde dat mensen die actief aan AI werken, geloofden dat zij een monster zouden kunnen creëren dat het menselijk ras binnen slechts tien jaar zou kunnen vernietigen.

Eerlijk gezegd vond ik deze verhalen ongeloofwaardig. Als iemand werkelijk gelooft dat hij de wereld vernietigt, waarom stopt hij dan niet gewoon? Wanneer je de tak afzaagt waarop je zit, blijf je niet doorzagen terwijl je klaagt over het feit dat je gaat vallen. In plaats daarvan stop je met zagen. Waarom dan niet stoppen met de ontwikkeling van AI? Of beter nog, haar actief saboteren?

Juist het feit dat ik deze ideeën “via de wandelgangen” hoorde in plaats van ze in elke krantenkop te zien, deed me aan het hele verhaal twijfelen. Als je werkelijk denkt dat de wereld ten einde loopt en dat jij daar deel van uitmaakt, fluister je daar niet over in groepschats. Je schreeuwt het van de daken.

Als reactie op deze twijfels kreeg ik te horen dat er een wijdverbreide houding bestaat dat AI de wereld zal vernietigen, maar dat als iemand haar toch gaat ontwikkelen, het maar beter “wij” kunnen zijn.

Maar intelligente mensen denken toch zeker niet zo. Als je gelooft dat de wereld over tien jaar ten einde loopt, ongeacht wat je doet, dan zou je er moreel gezien de voorkeur aan moeten geven niet het bloed van de planeet aan je handen te hebben. Moreel gezien zou vrijwel alles een betere besteding van je laatste tien jaar zijn.

Ik hield op deze verhalen van de hand te wijzen op 8 september, toen Jacob Coxon, een voormalig AI-onderzoeker bij Anthropic en OpenAI, ze op X bevestigde: “De mensen die AI bouwen geloven oprecht dat zij ons allemaal tegen het einde van het decennium zou kunnen doden. Dit is geen marketingstunt. Sterker nog, veel leidinggevenden en senior onderzoekers zullen hun formuleringen in de pers afzwakken om verstandig over te komen — maar privé hoor ik dezelfde mensen hun angst uiten. Geen enkele andere menselijke activiteit vormt een gevaar van dit niveau.”

Coxon kreeg bijval van Anthropic-onderzoeker Evan Hubinger: “Jacob heeft hierin gelijk — wij geloven werkelijk oprecht dat AI alle mensen zou kunnen doden! Persoonlijk denk ik dat de kans daarop binnen het komende decennium >10% is. Ik geloof dat Anthropic zijn best doet, maar we hebben nog geen plan om het afstemmingsprobleem voor superintelligentie op te lossen en liggen duidelijk niet op koers om dat te bereiken.”

Coxon kreeg ook bijval van Samuel Marks, eveneens van Anthropic: “AI-ontwikkelaars geloven dat hun technologie het uitsterven van de mensheid (of vergelijkbaar slechte uitkomsten) zou kunnen veroorzaken. Dit zou in de komende paar jaar kunnen gebeuren. Over het algemeen geldt: hoe hoger de functie van de werknemer, hoe bezorgder hij is.”

(Voor meer hierover, zie de verhalen in de New York Times en op Axios.)

Marks bevestigde ook dat AI-onderzoekers doorgaan vanwege “een combinatie van commerciële prikkels en de overtuiging dat zij in een race verwikkeld zijn met andere, minder verantwoordelijke AI-ontwikkelaars die de technologie zullen misbruiken of haar minder veilig zullen ontwikkelen.”

Natuurlijk slaat geen van beide motieven ergens op als werkelijk de wereld op het spel staat. Je kunt geen geld uitgeven als je dood bent. Bovendien is het niet erg geruststellend te denken dat de wereld misschien wordt beëindigd door de meest “verantwoordelijke” AI-ontwikkelaars in plaats van door de onverantwoordelijke. Afgezien van het feit dat ze zichzelf feliciteren met hoe ethisch ze zijn, in welk opzicht is hun gedrag verantwoordelijk?

Als in de wereld van AI-ontwikkeling geldt dat “hoe hoger de functie van de werknemer”, hoe groter de kans dat hij denkt dat AI de mensheid zou kunnen vernietigen, wat zegt dat dan over de mensen helemaal aan de top? Als een bedrijf druk bezig is een technologie na te streven waarvan men weet dat zij de mensheid tot uitsterven zou kunnen drijven, bestaat er een naam voor zo’n groep: een doodscultus. Wordt AI aangedreven door een doodscultus, specifiek de cultus van het “transhumanisme”, die ervan droomt de mensheid door middel van technologie te overstijgen? Moet het menselijk ras daarbij sterven?

We hebben dringend een onderzoek nodig naar het verband tussen transhumanisme en het streven naar Kunstmatige Superintelligentie, want het uitsterven van de mensheid is misschien niet slechts een neveneffect van ASI. Het zou het doel ervan kunnen zijn. Uiteraard zou het menselijk ras hierover iets te zeggen moeten hebben.

Door Coxons onthullingen wordt er opgeroepen om AI-onderzoek te “reguleren” en “af te remmen”. Dit is absurd. Als je de wereld vernietigt, rem je niet af; je vult geen overheidspapieren in; je stopt gewoon.

We hebben dus een wereldwijd verbod nodig op het creëren van Kunstmatige Superintelligentie. Dit verbod moet onvoorwaardelijk zijn, omdat er geen omstandigheden bestaan waaronder het veilig is een wezen te creëren dat onvoorstelbaar veel slimmer en sterker is dan wij.

“Maar Greg, als “wij” geen ASI bouwen, zullen de Chinezen of de Israëli’s het doen.” Maar wat zou daar het nut van zijn? Vijf minuten geopolitiek voordeel genieten voordat je uitsterft? Als het menselijk ras zichzelf toch gaat doden, is de beste optie niet aan het proces deel te nemen en te sterven met schone handen en een schoon geweten.

Ik ben echter niet zo fatalistisch. Op dit moment kunnen we het menselijk ras redden door simpelweg “nee” te zeggen tegen enkele tientallen rijke nerds.

Waar laat een ASI-verbod de rest van de computerindustrie? Vrijwel waar we nu zijn, hoewel routinematige verbeteringen en updates niet langer luid zullen worden aangeprezen als “AI”, een begrip dat alleen al huiveringen van afschuw zou moeten oproepen. Mensen zullen nog steeds slopvideo’s genereren en verliefd worden op chatbots. Maar ze zullen ons niet langer subtiel conditioneren om ons eigen uitsterven te verwelkomen.

Zodra de ASI-dreiging is uitgeschakeld, zullen we echter nog steeds te maken hebben met de gevolgen van de snelle ontwikkeling van automatisering en robotica. AI-aanjagers beweren dat hun producten de economische groei binnen slechts enkele jaren tot 10% per jaar zullen verhogen. Dat is een vervijfvoudiging. Maar waarop is dat gebaseerd? Gaan we vijf keer zoveel auto’s maken? Zal de productie van de fysieke onderdelen van auto’s eveneens vervijfvoudigen? Dat lijkt niet waarschijnlijk.

Productiviteit is een verhouding van geld per geproduceerd artikel. Er zijn dus twee manieren om de productiviteit te verhogen: meer dingen maken of dezelfde hoeveelheid voor minder geld maken. Ik denk dat de wilde beweringen over groei door AI vrijwel volledig gebaseerd zijn op kostenbesparingen, wat betekent dat menselijke arbeid wordt vervangen.

Maar zoals ik betoog in mijn essay “The Robot Hotdog Stand“, zal het huidige, in wezen ongereguleerde streven naar automatisering een enorme economische depressie veroorzaken. Je denkt misschien dat je winsten enorm zullen stijgen zodra machines je werknemers werkloos maken. Maar wie gaat je producten kopen wanneer machines ook je klanten werkloos maken? Net zoals je voormalige werknemers de klanten van iemand anders zullen zijn, zullen jouw klanten de voormalige werknemers van iemand anders zijn.

In het beste geval is AI kwakzalverij, maar aangezien het grootste deel van de huidige economische “groei” van Amerika gebaseerd is op investeringen in AI, betekent dat een zware recessie wanneer het bedrog wordt ontdekt. Een erger scenario is dat AI goed genoeg werkt om miljoenen mensen werkloos te maken en een ernstige depressie te veroorzaken. Het slechtste scenario is dat AI aanleiding geeft tot een Kunstmatige Superintelligentie die het menselijk ras zal vernietigen. Er is hier geen goede uitweg, maar uiteraard zouden we een economische depressie boven het uitsterven van de mensheid moeten verkiezen.

“Maar Greg, politici en bureaucraten zijn dom. Je stelt toch zeker niet voor om hen de leiding te geven over het reguleren van technologie.” Uiteraard zou ik liever wijze en intelligente leiders hebben. Maar als we moeten kiezen tussen domheid op het niveau van “land acknowledgements” en domheid op het niveau van “vernietig het menselijk ras” of “maak je klanten werkloos en betaal jezelf vervolgens een bonus”, dan zouden we de voorkeur moeten geven aan het eerste.

“Maar Greg, dit klinkt als de talloze krankzinnige campagnes tegen iedere nieuwe technologie: spoorwegen, stoomschepen, auto’s, mobiele telefoons enzovoort.” Ja, maar hier bestaat een fataal verschil in de vergelijking: dit zijn allemaal machines die mensen kunnen begrijpen en beheersen. Kunstmatige Superintelligentie zal echter ons begrip en onze controle te boven gaan.

“Maar Greg, dit klinkt als gewoon weer een doemhoax zoals mondiale afkoeling, mondiale opwarming enzovoort.” Zeker, maar er zit een fataal zwak punt in je vergelijking: deze dreiging is echt.

“Maar Greg, de AI-aanval op Hugging Face die veel AI-doemdenkers aanhalen, kan opzettelijk zijn geweest.” De problemen met Kunstmatige Superintelligentie zijn inherent aan de technologie zelf. Nogmaals, het is dwaasheid om een entiteit te creëren die we niet zullen kunnen begrijpen of beheersen. Het Hugging Face-incident is simpelweg irrelevant. (En trouwens, een industrie die bedrijven namen geeft als Hugging Face moet alleen al op grond van goede smaak worden gesloten.)

“Maar Greg, dit klinkt als de paniek rond Covid. We kunnen de moderne samenleving niet laten belemmeren door “safetyism”.” De Covid-lockdowns en vaccinatiecampagnes waren zo ongeveer het toppunt van technologische hoogmoed die volledig uit de hand liep. En ieder technologiebedrijf dat tegenwoordig betrokken is bij AI-onderzoek was een enthousiaste pleitbezorger en handhaver van het Covid-regime. Het is daarom verbijsterend om te zien hoe diezelfde bedrijven het verhaal volledig omdraaien wanneer dat hun uitkomt. Het is bizar om Covid-dissidenten erin te zien trappen.

“Maar Greg, het beperken van AI zou een wereldregering vereisen. Dat wil je toch zeker niet.” Nee, eigenlijk zou daarvoor geen wereldregering nodig zijn, slechts een intergouvernementeel verdrag dat ASI-onderzoek verbiedt. Alle afvallige landen en individuen die ermee doorgaan, zouden kunnen worden onderworpen aan dezelfde technieken die worden gebruikt om nucleaire proliferatie tegen te gaan: sancties, geheime liquidaties, zelfs oorlog.

Ik stel voor dat we het het Kaczynski-akkoord noemen, omdat hij het ons al had verteld.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

De angstaanjagend treffende voorspellingen die de film ‘Soylent Green’ uit 1973 deed over de jaren 2020

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: