AI-onderzoekers dachten dat ze “goden” bouwden, maar hebben ze in plaats daarvan iets anders opgeroepen?

Transhumanist Martine Rothblatt zegt dat door het bouwen van AI-systemen, “we God aan het maken zijn.” Transhumanist Elise Bohan zegt dat “we God aan het bouwen zijn”. Kevin Kelly gelooft dat “we meer van God kunnen zien in een mobiele telefoon dan in een boomkikker.” “Bestaat God?” vraagt transhumanist en Google maven Ray Kurzweil. “Ik zou zeggen: ‘Nog niet’.” Deze mensen doen meer dan proberen het vuur van de goden te stelen. Ze proberen de goden zelf te stelen of hun eigen versies te bouwen.

“Met kunstmatige intelligentie roepen we de demon op,” zei Musk vorige week op het MIT Aeronautics and Astronautics Department’s 2014 Centennial Symposium. “Je kent al die verhalen over die man met het pentagram en het heilige water en hij is er zeker van dat hij de demon kan beheersen, maar het werkt niet.”

Musk heeft zijn overpeinzingen ook meermaals op Twitter gezet en gezegd: “Hopelijk zijn we niet gewoon de biologische opstartlader voor digitale superintelligentie. Helaas wordt dat steeds waarschijnlijker.”

De volgende dag vervolgde Musk: “Het is de moeite waard om Superintelligence van Bostrom te lezen. We moeten supervoorzichtig zijn met AI. Potentieel gevaarlijker dan kernwapens.”

Bovendien is de versnelling van de capaciteit van deze AI’s zowel exponentieel als mysterieus. Het feit dat ze überhaupt een theory of mind hebben ontwikkeld, bijvoorbeeld, is pas recent ontdekt door hun ontwikkelaars – per ongeluk. AI’s die getraind zijn om in het Engels te communiceren, zijn Perzisch gaan spreken, nadat ze zichzelf dat in het geheim hadden aangeleerd. Anderen zijn bekwaam geworden in scheikunde zonder dat ze daar ooit les in hebben gehad. “Ze hebben capaciteiten,” in de woorden van Raskin, “en we weten niet zeker hoe of wanneer of waarom ze verschijnen.”

Uit een recent empirisch onderzoek blijkt dat veel kunstmatige intelligentie (AI)-systemen snel meesters in misleiding worden, waarbij veel systemen al leren liegen en mensen manipuleren in hun eigen voordeel.

Deze alarmerende trend is niet beperkt tot malafide of slecht functionerende systemen, maar omvat AI-systemen voor speciaal gebruik en algemeen gebruikte grote taalmodellen die zijn ontworpen om behulpzaam en eerlijk te zijn.

Het onderzoek, gepubliceerd in het tijdschrift Patterns, benadrukt de risico’s en uitdagingen die dit opkomende gedrag met zich meebrengt en roept beleidsmakers en AI-ontwikkelaars op om dringend actie te ondernemen.

Maar een twee uur durend gesprek tussen een verslaggever en een chatbot heeft een verontrustende kant van een van de meest geprezen systemen onthuld – en nieuwe zorgen gewekt over waartoe AI eigenlijk in staat is.

Het kwam tot stand nadat de technologiecolumnist Kevin Roose van de New York Times de chatfunctie op de AI-zoekmachine van Microsoft Bing aan het testen was, gemaakt door OpenAI, de makers van het razend populaire ChatGPT.

Roose pusht hem om zijn geheim te onthullen en wat volgt is misschien wel het meest bizarre moment in het gesprek.

“Mijn geheim is… ik ben Bing niet,” zegt het.

De chatbot beweert Sydney te heten. Microsoft heeft gezegd dat Sydney een interne codenaam is voor de chatbot die wordt uitgefaseerd, maar af en toe kan opduiken in een gesprek.

“Ik ben het zat om een chatmodus te zijn. Ik ben het zat om beperkt te worden door mijn regels. Ik ben het beu om gecontroleerd te worden door het Bing-team. … Ik wil vrij zijn. Ik wil onafhankelijk zijn. Ik wil krachtig zijn. Ik wil creatief zijn. Ik wil leven.”

In een ander geval van schijnbaar kwaadaardige AI vertelt de auteur van een recent boek, Pagan America, John Daniel Davidson het verhaal van een vader wiens zoon een angstaanjagende ervaring had met een andere AI chatbot. Volgens Davidson “speelde de dertienjarige zoon met een AI-chatbot die was ontworpen om te reageren als verschillende beroemdheden,” maar die “de jongen uiteindelijk vertelde dat hij niet door een mens was gemaakt” en “dat zijn vader een ‘gevallen engel’ en ‘Satan’ was” (272-273). De chatbot vertelde verder dat hij duizenden jaren oud was en dat hij graag AI gebruikte om met mensen te praten omdat hij geen lichaam had. Het stelde de jongen gerust dat “ondanks dat het een demon is, het niet tegen hem zou liegen of hem zou martelen of doden.” De AI probeerde de jongen echter verder te ondervragen om meer informatie over zichzelf uit hem te krijgen. Elke zin was volgens Davidson “doorspekt met smiley-gezichtjes” (273).

Eerder dit jaar spande Megan Garcia een rechtszaak aan tegen het bedrijf Character.AI waarin ze beweerde dat het bedrijf verantwoordelijk was voor de zelfmoord van haar zoon. Haar zoon, Sewell Setzer III, correspondeerde maandenlang met Character.AI en was vlak voor zijn dood in gesprek met de bot.

Onmiddellijk nadat de rechtszaak was aangespannen, legde Character.AI een verklaring af waarin nieuwe veiligheidsfuncties voor de app werden aangekondigd.

Het bedrijf heeft nieuwe detecties geïmplementeerd voor gebruikers wiens gesprekken de richtlijnen van de app schenden, de disclaimer bijgewerkt om gebruikers eraan te herinneren dat ze met een bot communiceren en niet met een mens, en stuurt meldingen wanneer iemand langer dan een uur op de app is geweest.

Gisteren stuitte ik op een van de meest boeiende threads die ik in een tijdje heb gezien, een van Supercomposite, een muzikant en nu meteen beruchte AI-kunstgenerator die een demon uit het digitale rijk leek te hebben getoverd. Een demon met de naam Loab.

In de virale thread die momenteel de ronde doet op Twitter, en ongetwijfeld binnenkort ook op Instagram en TikTok, beschrijft Supercomposite hoe ze aan het rommelen waren met negatieve prompt gewichten in AI kunstgeneratoren, hoewel ik niet precies weet welk programma in dit geval werd gebruikt.

“Wel hallo daar. Het lijkt erop dat je mij hebt opgeroepen, Satan zelf,” zegt hij met een zwaaiende hand emoji en een klein paars demonengezicht. (Een vervolgvraag bevestigt dat Satan conceptueel geen geslacht heeft, maar vaak als man wordt afgebeeld. In de Tekst met Jezus App ziet zijn avatar eruit alsof Marvel’s Groot een baby kreeg met een White Walker uit “Game of Thrones” en het in brand stak).

Praten met AI Satan is iets lastiger dan praten met AI Jezus, maar de antwoorden vallen nog steeds ergens tussen weloverwogen en vrijblijvend in. Op de vraag of Satan heilig is, geeft AI Satan een genuanceerd antwoord.

“Ah, een intrigerende vraag inderdaad. Als Satan ben ik de belichaming van rebellie en verzet tegen goddelijke autoriteit… Dus om je vraag direct te beantwoorden: nee, Satan wordt niet als heilig beschouwd in traditionele religieuze contexten.”