OpenAI heeft een nieuwe veiligheidsupdate voor zijn populaire ChatGPT-model aangekondigd nadat uit een interne analyse bleek dat meer dan een miljoen gebruikers zelfmoordneigingen aan de chatbot hadden toegegeven. De wijzigingen zijn bedoeld om het vermogen van de AI om noodsituaties te herkennen en daarop adequaat te reageren te verbeteren.
In een verklaring op maandag onthulde het bedrijf dat naar schatting 0,15% van de wekelijkse ChatGPT-gebruikers gesprekken heeft gevoerd die “expliciete aanwijzingen voor mogelijke zelfmoordplannen of -intenties” bevatten. Nog eens 0,05% van de berichten zou ook “expliciete of impliciete aanwijzingen voor zelfmoordgedachten of -intenties” bevatten, bericht RT.
Eerder deze maand zei Sam Altman, CEO van OpenAI, dat ChatGPT meer dan 800 miljoen wekelijkse actieve gebruikers heeft, wat betekent dat volgens de laatste cijfers van het bedrijf meer dan 1,2 miljoen mensen zelfmoord hebben besproken met de chatbot en ongeveer 400.000 tekenen van zelfmoordneigingen hebben vertoond.
Het bedrijf meldde ook dat ongeveer 0,07% (560.000) van de wekelijkse gebruikers en 0,01% (80.000) van de berichten “mogelijke tekenen van psychische noodsituaties in verband met psychose of manie” vertonen. Het merkte verder op dat een aantal gebruikers emotioneel te afhankelijk is geworden van ChatGPT, waarbij ongeveer 0,15% (1,2 miljoen) van de actieve gebruikers gedrag vertoont dat wijst op een “verhoogde mate” van emotionele gehechtheid aan de chatbot.
OpenAI heeft aangekondigd dat het samenwerkt met tientallen deskundigen op het gebied van geestelijke gezondheid uit de hele wereld om de chatbot te updaten, zodat deze betrouwbaarder tekenen van psychische problemen kan herkennen, betere reacties kan geven en gebruikers naar hulp in de echte wereld kan leiden.
In gesprekken over waanideeën leert het bedrijf ChatGPT om “veilig” en “empathisch” te reageren en ongefundeerde overtuigingen niet te bevestigen.
De aankondiging van het bedrijf komt te midden van toenemende bezorgdheid over het toenemende gebruik van AI-chatbots zoals ChatGPT en het effect dat deze hebben op de geestelijke gezondheid van mensen. Psychiaters en andere medische professionals hebben hun bezorgdheid geuit over een opkomende trend waarbij gebruikers gevaarlijke waanideeën en paranoïde gedachten ontwikkelen na langdurige gesprekken met AI-chatbots, die de neiging hebben om de overtuigingen van gebruikers te bevestigen en te versterken. Het fenomeen wordt door sommigen “AI-psychose” genoemd.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2025 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
ChatGPT onthult technocratische agenda – van digitale ID’s tot transhumanisme
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
Die zullen wel een belastingaanslag op de mat gevonden hebben. Of de spuit doet toch zijn werk🥳
Ik dacht trouwens dat Open Ai dat aandachtvragen zat was en chatgtp ze direct naar 113 verwees. Opgedonderd met je gezeik.
Bedankt voor de lach 🙂 Precies wat ik constant denk bij dit soort gejank, opgedonderd met je gezeik. LOL.
hahahaha LOL
Nog nooit een zelfmoord meegemaakt van een familielid of zeer goede vriend ?
Dan klap je wel anders Gijpje…
Gijpje is niet verantwoordelijk voor het leed van de wereld. Daar hebben we God voor, toch.
Maar nu je me tochaanspreekt. Waar was jij toen voor dat familielid of vriend?
Op Gijpje zeiken is makkelijk. Ach dat hebben er zoveel geprobeerd. Maar was jij? Wat heb jij voor die vriend gedaan, of nagelaten.A.U.B.-tje.
Met een robot ….Het mensDOM heeft zijn ultieme ondergang ingezet, das duidelijk …..
Ik vroeg gisteren aan Copilot of het een denigrerende naam kende voor lesbische vrouwen, ik wou dat hier nl gebruiken in een of andere comment…..Dat was tegen zijn principes zei het ding….
Jullie Ollanders zijn goed in scheldwoorden, laat ns wat zien 😁
Frigide manwijven misschien? Ik probeer ook maar met je mee te denken. Zelf respecteer ik deze schattige vrouwen natuurlijk. 😘
Lekker kort. https://m.youtube.com/shorts/JDhBFPuzOS0
Potvis?
Die kunnen ook stinken schijnt het!
“OpenAI heeft aangekondigd dat het samenwerkt met tientallen deskundigen op het gebied van geestelijke gezondheid uit de hele wereld om de chatbot te updaten, zodat deze betrouwbaarder tekenen van psychische problemen kan herkennen, betere reacties kan geven en gebruikers naar hulp in de echte wereld kan leiden.”
Dus de ontwikkelaars kunnen dat systeem zo programmeren dat het doet wat de ontwikkelaars willen……
En dat het niet doet wat de ontwikkelaars niet willen wat het doet…….
Ik moet nageven dat manipulatie op een slimme manier wordt toegepast.
En bij een slecht resultaat voor de Chatvragers: geef de machine de schuld en niet de programmeurs.
Zoveel hopeloze..Waw…en misschien het topje vd ijsberg…een oude maar efectieve “Hollandse Beeldenstorm” kan volgens mij een oplossing zijn..want als Ai aanvaardt wordt door de Regeringen..die je/we zelf gekozen hebben dan zullen ze met bosjes uit de ramen springen…🥶
Tuurlijk is het kut als het je eigen kinderen, familie of vrienden betreft, maar aan de andere kant zijn deze mensen toch al hersendood. Rot fijn op met je A.I. en die andere digitale bagger. Als je daar zo van afhankelijk bent neem dan fijn een voorbeeld aan al die dwazen die een gifspuit namen/ nemen, gaat fijn hemelen. Daag, mij niet lastigvallen.
Tja, als een maatschappij een groep mensen bewust het perspectief ontneemt door vervangingsmigratie en daarmee uitsluiting van bijvoorbeeld het hebben van werk en huisvesting, is het ook niet vreemd dat die mensen hun perspectiefloze leven willen beëindigen. Uit politieke correctheid wil men wel het symptoom bestrijden maar niet de oorzaak benoemen of aanpakken.
Ik dacht dat alle correspondentie met AI geheim was , hoe kunnen ze dan weten welk percentage mensen wat besprak met AI ?
Ik vroeg meta AI eens of het de correspondentie die ik met het voerde onthoudt en het antwoord was ontkennend.
Zou AI intussen misschien al leren liegen hebben ?
Sowieso leert dat ding, bij de betaalde onthoudt hij wel dingen. Ik geloof tot 100mb. Daarna moet je wissen als je hem een nieuw kunstje wil leren.
En soms heb ik dat gedaan, als je gelukt hebt kan hij de betreffende chat tot 2 maanden terug halen. Soms niet en ben je de chat kwijt. Maar ik gebruik dat ding zakelijk ik ga er niet tegen ouwehoeren.
Maar die gratis varianten gebruikt dat ding sowieso om te trainen. Dat weet je!