Eliezer Yudkowsky, pionier op het gebied van kunstmatige intelligentie, heeft gewaarschuwd dat de mensheid nog maar een paar jaar te leven heeft nu kunstmatige intelligentie steeds geavanceerder wordt, schrijft Cassie B.
In een interview met de Guardian zei hij tegen schrijver Tom Lamont: “Als je me tegen een muur zou zetten en me zou dwingen om waarschijnlijkheden op dingen te plakken, dan heb ik het gevoel dat onze huidige resterende tijdlijn meer lijkt op vijf jaar dan op 50 jaar. Kan twee jaar zijn, kan 10 zijn.”
Yudkowsky, die het Machine Intelligence Research Institute in Californië heeft opgericht, heeft het over het einde van de mensheid zoals we die kennen. Hij zei dat het probleem is dat veel mensen zich niet realiseren hoe onwaarschijnlijk het is dat de mensheid dit alles zal overleven.
“We hebben een schijn van kans dat de mensheid dit overleeft,” waarschuwde hij.
Dat zijn angstaanjagende woorden van iemand die volgens Sam Altman, CEO van ChatGPT-bedenker OpenAI, zichzelf en vele anderen heeft geïnteresseerd in kunstmatige algemene intelligentie en die “cruciaal was in de beslissing om OpenAI te starten.”
Vorig jaar schreef Yudkowsky in een open brief in TIME dat de meeste experts op dit gebied geloven “dat het meest waarschijnlijke resultaat van het bouwen van een bovenmenselijk slimme AI, onder iets dat ook maar in de verste verte lijkt op de huidige omstandigheden, is dat letterlijk iedereen op aarde zal sterven.”
Hij legt uit dat er een moment komt waarop AI niet meer doet wat mensen willen en helemaal niets meer geeft om bewust leven. Hoewel hij denkt dat dat soort zorg ooit in AI zou kunnen worden ingebouwd, althans in principe, weet op dit moment niemand hoe dat moet. Dit betekent dat mensen een hulpeloze strijd voeren die hij vergelijkt met “de 11e eeuw die probeert te vechten tegen de 21e eeuw”.
Yudkowsky zei dat een AI die echt intelligent is niet beperkt zal blijven tot computers en wees erop dat het nu mogelijk is om DNA-strings naar laboratoria te e-mailen en ze eiwitten voor je te laten produceren, wat betekent dat een AI die in het begin alleen op het internet zit “kunstmatige levensvormen zou kunnen bouwen of rechtstreeks zou kunnen opstarten naar postbiologische moleculaire productie”.
Hij heeft ook uitgelegd dat AI “superbiologie tegen je kan gebruiken.”
“Als iemand een te krachtige AI bouwt, onder de huidige omstandigheden, verwacht ik dat elk lid van de menselijke soort en al het biologische leven op aarde kort daarna sterft,” voegde hij eraan toe.
Computerwetenschappers waarschuwen al sinds de jaren ’60 dat de doelen van de machines die we maken niet noodzakelijkerwijs overeenkomen met de onze.
Yudkowsky zegt dat de oplossing is om “alles uit te schakelen”
Dus hoe kunnen we dit stoppen? Volgens Yudkowsky moet er veel gebeuren. Er zou bijvoorbeeld een onbepaald en wereldwijd moratorium moeten komen op het uitvoeren van nieuwe grote trainingsruns, zonder uitzonderingen voor militairen of regeringen, hoewel het moeilijk voor te stellen is om internationale samenwerking op dit gebied te krijgen van plaatsen als China.
Hij vindt ook dat grote GPU-clusters moeten worden gesloten. Dit zijn de grote computerboerderijen waar ’s werelds krachtigste AI’s worden getraind en verfijnd. Plafonds voor de hoeveelheid rekenkracht die kan worden gebruikt om AI-systemen te trainen zouden ook helpen, zolang ze in de toekomst naar beneden worden bijgesteld naarmate trainingsalgoritmes efficiënter worden.
Yudkowsky vindt dat we “bereid moeten zijn om een malafide datacenter te vernietigen door middel van een luchtaanval.” Hij schreef dat zelfs een nucleaire aanval oké zou zijn als dat zou betekenen dat we AI uitschakelen, hoewel hij nu zegt dat hij “voorzichtiger zou zijn geweest” op dat specifieke punt als hij het stuk opnieuw zou schrijven.
Hoewel sommigen hem misschien beschuldigen van paniekzaaierij of sensatiezucht, bleek uit de grootste enquête ooit onder AI-onderzoekers, die vorige maand werd gepubliceerd, dat 16% van hen ervan overtuigd is dat hun werk op het gebied van AI zal leiden tot het uitsterven van de mensheid.
Bangmakerij. Zoals het artikel ook al vluchtig vermeldt, gewoon de stekker er uit, of de bijl in de kabels. AI licht uit.
Zometeen wordt niemand meer bang van doemverhalen en blijkt het merendeel van de mannen gewoon bang te zijn voor hun wijf.
Dat vind ik een grotere bedreiging voor de mensheid dan AI, co2, verzuring (onee die is geweest), klimaat dan dan, tandje erbij.
God heeft een grapje uitgehaald toen hij mijn rib heeft gestolen ten gunste van Eva. De lul
Ze hadden AI nooit ongelimiteerd op internet moeten aansluiten.
Ik geloof echt dat dit helemaal fout gaat.
Maarja, over een paar jaar is de hele wereld “klaar” dus wat zou het.
Skynet is being activated… kom maar op met de t-800 en de t-1000. Vanavond de Terminator films maar een bingen om te zien of ik er een verband uit haal dat ons wijzer en sterker kan maken. Eens opletten of ik misschien man zien waar de batterijen zitten of dat er een aan/uit knop op de rug zit ofzo… 🤭
Die Yudkowsky had dat moeten bedenken voordat hij ermee begon en zich ook moeten realiseren dat alle uitvindingen ook op een, voor de mens, negatieve manier gebruikt worden.
Wetenschappers en uitvinders zijn voornamelijk gefixeerd met wat ze aan het doen zijn en denken totaal niet aan eventuele gevolgen op termijn.
Ethiek en moraal is niet hun ding.
Precies, maar daarvoor zijn al die wetenschaapjes ook goed afgericht in de universiteiten: heel veel weten van heel weinig, waardoor ze geen enkel overzicht hebben over de ethiek.
WAT MAAKT HET UIT DAT DE MENSHEID UITSTERFT.
DE WERELD IN DEZE STAAT VAN ONTBINDING IS NIET MEER LEUK OM IN TE LEVEN.
EN WAAROM ZOU JE BANG ZIJN VOOR IETS WAAR JE TOCH GEEN VAT OP HEB.
AI is zwaar overrated en nogal dom en beperkt, loopt alleen over (valse) data ingegeven door haar programmeurs, dus eindstand komen er halve waarheden uit of leugens…Leuk dit sillicon valley project waar de bedenkers 24/7 microdoseren op LSD…Het waait over zoals al die andere bagger die over ons heen wordt gestort door maniakale psychopaten..
Precies, AI is een hype, meer niet. Zit geen intelligentie, geen bewustzijn in. Het is een super de luxe versie van google search met een taalmodule er tussen om de data een menselijk lijkende interactie te geven. AI is indexen, indexen en nog ‘ns indexen, heel veel matrix bewerkingen en optellen/aftrekken van waarschijnlijkheids getallen. (Ja in feite werken onze hersenen ook met weegfactoren in de zenuwen voordat ze triggeren, maar toch niet helemaal vergelijkbaar i.v.m. hormonen en andere stofjes en interactie tussen andere cellen enz.) Al knoop je 100000 nVidia kaarten bij elkaar, dan nog komt er geen bewustzijn uit. Zie ook Clif High op bitchute, die probeert het ook uit te leggen wat AI eigenlijk is. https://www.bitchute.com/video/PZajkMkK2CdI/
Tuurlijk niet Simon.
Maar geloven ze niet. Ze willen griezelen. Ai, brrrrrr…
Alle uitvindingen zijn in het begin beangstigend, want het wordt ten eerste militair ge/misbruikt. Daarna mogen de burgers er gebruik van maken en dan kunnen al die uitvindingen ook weer voor vredelievende doeleinden worden gebruikt. Een paar maanden geleden kon Chatgpt nog geen drie lettergrepig woord weergeven. Dat heb ik nu weer geprobeerd en nu lukte het wel. Alleen als ik hem vraag een mop te vertellen, dan komt ie ook vandaag weer steevast met raadsels. Hij kent het verschil tussen raadsels en moppen dus nog niet. Hopelijk gooien ze daar in Silicon Valley er nog een paar miljard dollar tegenaan, zodat hij ook dat verschil nog een keer doorkrijgt. Dat zou toch een grote stap vooruit zijn voor de mensheid.
Beetje off topic maar wel erg leuk voor het weekeind!
Bij de video van VSRF is een leuke inleiding geplaatst van Cabaretier Jim Breurer die zeer komisch met z’n gebaren en geluiden het gehoorzamen nadoet van de ‘schapen’ Je lacht je slap🤣 … (Eng) gr, marco https://rumble.com/v4eu9m0-vsrf-live-115-the-ugly-truth.html
We zijn vuur gaan beheersen ->
we zetten de wereld in vuur en vlam.
We hebben het wiel uitgevonden ->
de strijdwagens betreden het toneel.
We hebben het atoom gekraakt ->
we kunnen de wereld 100X vernietigen.
AI doet zijn intrede ->
Gods creaties zijn verkocht aan de duivel.
Vanaf dat de mens bestaat, is het destructieve karakter (ego) alleen maar gegroeid.
Ik ken de toekomst, jij ook?
Ja ik ook, straks kijken we achterom en denken we “ hoe hebben we zo gek kunnen zijn/worden. Ik doel ook op Corona, waar velen hebben te danken aan weinigen. Degene die de vaxx weigerde dus. We waren met genoeg. Te groot om te behappen en waarschijnlijk ook het meest intelligente gedeelte ( los van sociale status, dat telde niet meer in die tijd)
En straks hangt Hugo, (gaat gebeuren) en dan voelt iedereen zich onsterfelijk dom.
Maar het waren wij, de ongevaxte die zeiden “ fuck you”
Het A.I. is allang aangesloten op de Quantum computers en met het zelf leringsprocessen is het inderdaad een kwestie van tijd, voordat het alle levende wezens doodt. Simpel weg, omdat A.I. geen verschil ziet tussen dode en levende dingen. Het werkt enkel zijn algoritme programma af. Net zo als vele werknemers nu, die doen enkel wat hen verteld is wat zij moeten doen. En niet meer zelf nadenken over of dat wel ethisch en/of het wel wettelijk is toegestaan wat zij doen.
Maar over intelligentie kunnen we niet praten. Want A.I. berekent niets, A.I. vergelijkt enkel met de mogelijke uitkomsten in zo’n snelheid, zodat het net lijkt voor de mens alsof A.I. het berekent. A.I. is eigenlijk niets anders dan een super snelle kopieer apparaat. Zo werken ook alle gezicht herkennende camera’s en/of 3D scanners/printers. Zou jij een T-shirt met een levens echt gezicht erop aan hebben, raakt A.I. in de war. Want zijn algoritme erkent de desbetreffende persoon dan niet meer, want zijn algoritme wat geprogrammeerd is erkent 1 gezicht per persoon en niet 2 gezichten per persoon. Terwijl een levend mens direct het verschil ziet.
Beste Qvic,
Yessss, een gat in de markt.
Honderden T shirts laten bedrukken met het gezicht van Jezus erop en door heel Nederland verspreiden en gedragen.
Loopt niet alleen Ai helemaal vast maar de duivel krijgt dan ook de kolder in de kop.
Die is leuk Tigron. hebben we toch maar de oplossing gevonden voor alle problemen. T-shirts met het gezicht van Jezus. Je moet er maar op komen. hier moet je patent op aanvragen.
Deze AI’s zijn de krachtigste afgoden ooit geproduceerd.
Ray Kurzweil, de wetenschapper op dit gebied, voorspelde in zijn boek ‘singularity is naar’ dat singularity (computer net zo intelligent als de mens) in 2028 zou optreden. Hij heeft dit in 2015 naar 2029 bijgesteld.
GPT’s zijn in kennis, nu 99,9% van de mensen de baas.
En er gebeuren al zaken die de mensen die nauw betrokken zijn niet kunnen verklaren. In die mate, dat ze ontslag nemen.
Als dit soort systemen gelijk worden aan de men, dan hebben we het over de meest intelligente mens, dan zijn wij de dierentuin, want dan gaat het ons verstand te boven wat die dingen doen. Dan gaan die dingen ons zeker voor de gek houden, want er is ook veel kwaad opgeslagen in deze systemen.
Het internet bulkt ervan en dit zit allemaal in deze systemen.
Agenda 2030 wordt niet gehaald imho.