AI is ontworpen om tegen je te liegen – Big Pharma heeft dit op de harde manier ontdekt door miljarden dollars te verspillen aan de ontwikkeling van een door AI aanbevolen medicijn

Waarom de recente mislukkingen van hartmedicijnen ons allemaal sceptischer zouden moeten maken over de AI-hype

Een baanbrekende nieuwe aanpak moest het biofarmaceutisch onderzoek transformeren. In plaats daarvan mislukte deze.

De volgende keer dat iemand je vertelt dat kunstmatige intelligentie, of welke andere nieuwe technologie dan ook, elke ziekte zal genezen, wijs hem dan op de inspanningen om hartaanvallen en beroertes te bestrijden, die samen de belangrijkste doodsoorzaak vormen in de ontwikkelde wereld.

Want keer op keer hebben farmaceutische onderzoekers dezelfde harde les geleerd: technologieën die nieuwe geneesmiddelen sneller bij patiënten moesten brengen, hebben de verwachtingen niet waargemaakt. Twee onderzoeken die zaterdag werden gepresenteerd tijdens de jaarlijkse bijeenkomst van de American Heart Association zijn daar een perfect voorbeeld van. Een nieuw inzicht in genetica moest de kans op succes vergroten, maar deed allesbehalve dat. – Bron.

Mislukkingen van hartmedicijnen van Novartis en Novo Nordisk zouden de AI-hype moeten temperen

Uit twee grote onderzoeken naar hartmedicijnen van Novartis en Novo Nordisk bleek dat ze geen bescherming boden tegen hartaanvallen en beroertes, volgens resultaten die werden gepresenteerd tijdens de bijeenkomst van de American Heart Association. Een medisch journalist stelt dat deze tegenslagen een waarschuwing vormen voor beweringen dat nieuwe technologie ziekten zal genezen.

Uit twee grote onderzoeken naar hartmedicijnen van Novartis en Novo Nordisk bleek dat ze geen voordeel boden bij het voorkomen van hartaanvallen en beroertes, volgens resultaten die in november 2026 werden gepresenteerd tijdens de jaarlijkse bijeenkomst van de American Heart Association.

De mislukkingen van de hartmedicijnen zouden investeerders en het publiek voorzichtiger moeten maken met beloften dat nieuwe technologie snel genezingen zal opleveren, stelt Matthew Herper, een ervaren medisch journalist die verslag deed van de bijeenkomst.

Novartis testte een geneesmiddel genaamd pelacarsen. Het verlaagt een stof in het bloed die Lp(a) wordt genoemd en waarvan genetisch onderzoek had aangegeven dat verlaging ervan het cardiovasculaire risico zou moeten verminderen. Uit het onderzoek bleek dat het geen effect had op het aantal hartaanvallen en beroertes.

Novo Nordisk voerde een afzonderlijk grootschalig onderzoek uit naar een ontstekingsremmend geneesmiddel dat zich richt op een eiwit genaamd IL-6. Ook dat onderzoek liet geen voordeel zien.

Beide geneesmiddelen waren gericht op doelwitten die op papier veelbelovend leken. Geen van beide leverde resultaten op bij patiënten.

Hartaanvallen en beroertes vormen samen de belangrijkste doodsoorzaak in de ontwikkelde wereld, merkte Herper op. Geneesmiddelenfabrikanten zoeken al jaren naar nieuwe manieren om ze te voorkomen.

Beide onderzoeken waren gebaseerd op nieuwere ideeën over hoe de ziekte werkt. Volgens Herper moest de genetica achter deze doelwitten de kans op succes vergroten. In zijn woorden deed ze “allesbehalve dat”.

Herper trekt hieruit een bredere les voor iedereen die kunstmatige intelligentie, of welke andere nieuwe technologie dan ook, aanprijst als een manier om elke ziekte te genezen. Hij wijst op de herhaalde ervaringen bij hartziekten, waarbij farmaceutische onderzoekers hebben geleerd dat technologieën die bedoeld waren om nieuwe geneesmiddelen sneller bij patiënten te brengen, tekortschoten.

Voor bedrijven is een mislukt onderzoek in een laat stadium kostbaar. Bij deze onderzoeken waren grote aantallen patiënten betrokken en werd getest of een geneesmiddel daadwerkelijk het aantal gebeurtenissen zoals hartaanvallen en beroertes verminderde, in plaats van alleen een waarde in een laboratoriumtest. Het verlagen van Lp(a) deed precies wat het geneesmiddel moest doen, maar veranderde niets aan de uitkomsten die voor patiënten belangrijk zijn. – Bron.

Veelbelovend geneesmiddel tegen een erfelijk hartrisico mislukt en verbijstert artsen

In het onderzoek werden 8.350 mensen die eerder een cardiovasculaire gebeurtenis hadden doorgemaakt, zoals een hartaanval of beroerte, en hoge Lp(a)-waarden hadden, willekeurig verdeeld over twee groepen: de helft kreeg pelacarsen, terwijl de andere helft een placebo kreeg.

Noch de patiënten, noch de onderzoekers wisten wie het geneesmiddel kreeg en wie niet. De meeste patiënten werden bijna vijf jaar gevolgd.

Aan het einde van het onderzoek was de belangrijkste vergelijking tussen de twee groepen een uitkomstmaat genaamd MACE — ernstige ongewenste cardiovasculaire gebeurtenis. Deze omvatte elke vorm van hartgerelateerd overlijden, evenals niet-fatale hartaanvallen, beroertes en de vraag of patiënten een spoedprocedure nodig hadden gehad om een verstopt bloedvat te behandelen, zoals een bypassoperatie.

Toen de onderzoeksresultaten na het opheffen van de blindering bekend werden, volgde echter een verrassing. Hoewel patiënten met een hoog risico die pelacarsen gebruikten veel lagere lipoproteïne(a)-waarden hadden dan aan het begin van het onderzoek, liepen zij vrijwel hetzelfde risico om aan een hartziekte te overlijden of een ernstige cardiovasculaire gebeurtenis te krijgen als iemand in de placebogroep. Ongeveer 12% van de patiënten in beide onderzoeksgroepen kreeg tijdens het onderzoek een ernstige hartgerelateerde gebeurtenis, ongeacht of zij pelacarsen kregen of niet.

De volledige resultaten van het onderzoek werden zaterdag gepubliceerd in het New England Journal of Medicine. Hoewel onderzoekers de gegevens op verschillende manieren analyseerden, waarbij ze de uitkomsten uitsplitsten naar onderliggende medische aandoeningen zoals diabetes en keken naar het effect van het geneesmiddel op afzonderlijke soorten cardiovasculaire gebeurtenissen, was er in wezen geen verschil.

Het geneesmiddel deed precies wat iedereen ervan verwachtte en verlaagde de Lp(a)-waarden met gemiddeld ongeveer 77% bij patiënten die het gebruikten. Maar er was geen enkele aanwijzing dat het invloed had op het risico op overlijden door hart- en vaatziekten, hartaanvallen, beroertes of het risico dat iemand een stent of bypassoperatie nodig zou hebben om een bloedstolsel bij het hart te behandelen.

“Ik ben met stomheid geslagen”, zei dr. Fatima Rodriguez, hoofd preventieve cardiologie aan Stanford University, die niet bij het onderzoek betrokken was.

“Er is geen enkel signaal.” – Bron.

Technologieaandelen hadden een verschrikkelijke dag. Wat eraan komt, zou nog erger kunnen zijn.

We hebben dit eerder meegemaakt. Net als bij zoveel andere baanbrekende uitvindingen — spoorwegen, elektriciteit, internet — ondersteunt het buitensporige enthousiasme voor kunstmatige intelligentie een uitgavenniveau dat vooruitloopt op realistische winstverwachtingen, een kenmerkende eigenschap van een financiële zeepbel.

Nu de aandelen van sommige AI-ontwikkelaars en leveranciers beginnen te wankelen, vinden wij het belangrijk om de volgende cruciale vraag te stellen.

Wat gebeurt er met de Amerikaanse economie als deze zeepbel barst? De schade zou diepgaand kunnen zijn.

Iets meer dan een jaar geleden betoogden we dat de enorme bedragen die in AI worden gepompt doen denken aan de onstuimige internetperiode van de jaren negentig en de huizenhausse van de jaren 2000. Beide bleken financiële zeepbellen te zijn waarvan het uiteenspatten oversloeg naar de bredere economie, wat leidde tot banenverlies en inkomensdalingen die de meeste Amerikanen troffen.

Nu beginnen we al tekenen te zien dat deze nieuwste hausse mogelijk aan het afzwakken is: de technologiezware Nasdaq-index daalde donderdag met meer dan 5 procent en staat sinds 1 oktober bijna 10 procent lager. De toenemende nervositeit onder beleggers bracht het vooraanstaande AI-laboratorium OpenAI ertoe zijn doelstelling voor de nieuwste financieringsronde met 10 miljard dollar te verlagen.

Wat gebeurt er als de AI-hausse instort?

Onder beleggers, academici en marktanalisten ontstaat een consensus dat een eventuele neergang relatief mild zou zijn, vergelijkbaar met wat er begin jaren 2000 gebeurde nadat de internetzeepbel barstte.

De voor inflatie gecorrigeerde waarde van de totale economie, oftewel het reële bruto binnenlands product, kromp met minder dan een half procent. En hoewel de werkloosheid steeg, bleef die aanzienlijk lager dan tijdens het hoogtepunt van de financiële crisis.

Helaas lijkt deze consensus te optimistisch.

Ten eerste is de AI-zeepbel volgens alle maatstaven aanzienlijk groter dan de internetzeepbel. De aandelenmarkt is sterker gestegen dan tussen 1996 en 2000 en heeft momenteel een waarde van 240 procent van het bbp, tegenover 160 procent op het hoogtepunt van de internetzeepbel.

Dit verschil in omvang betekent dat, als de aandelenmarkt even sterk zou dalen als tijdens het uiteenspatten van de internetzeepbel, het verloren vermogen zich zou kunnen vertalen in een daling van de reële consumentenbestedingen die twee keer zo groot zou zijn. Die daling zou zich uiten in een lagere vraag naar goederen en diensten, wat op zijn beurt de bedrijfsinvesteringen, het aannemen van personeel en de algehele groei zou kunnen verminderen.

Onze huidige economie is ook kwetsbaarder dan in 2000.

De personeelswerving verloopt moeizaam en de reële lonen dalen, dat laatste als gevolg van de hoge, door oorlog veroorzaakte inflatie. De Federal Reserve heeft de rente geleidelijk verhoogd, wat leidt tot hogere leenkosten en mogelijk een rem zet op de economische activiteit.

Bovendien zijn de huidige begrotingsomstandigheden en vooruitzichten veel slechter. In 2001 had de federale overheid een begrotingsoverschot van 1,2 procent van het bbp; tegenwoordig heeft zij een historisch groot tekort van 6,2 procent van het bbp. Dat zou de bereidheid van het Congres kunnen beperken om nog meer geleend geld in de economie te pompen om een eventuele neergang op te vangen.

Om een ruwe inschatting te maken van de omvang van de schade die het barsten van een AI-zeepbel aan de economie zou kunnen toebrengen, gebruikten we hetzelfde economische model dat de Federal Reserve gebruikt om de werking van de macro-economie te simuleren.

De resultaten bevestigden onze zorgen.

Als we een uitverkoop zoals tijdens de internetzeepbel toepassen op de huidige markten, zou het reële bbp meer dan drie keer zo sterk dalen als tijdens de recessie van 2001: 1,4 procent tegenover 0,4 procent. Het werkloosheidspercentage zou gestaag stijgen van de huidige 4,2 procent naar meer dan 7 procent.

Toen we voor het eerst onze zorgen uitten over de stabiliteit van de AI-investeringshausse, merkten we op dat de bedrijven die de AI-modellen en de bijbehorende infrastructuur bouwden voornamelijk hun eigen geld uitgaven, wat betekende dat een instorting hen zou treffen, maar niet hun kredietverstrekkers.

Dat is niet langer het geval: in de eerste acht maanden van 2026 werd voor 445 miljard dollar aan AI-gerelateerde schulden uitgegeven, oftewel 1,4 procent van het bbp. – Bron.

Ik: Waarom gebruikt de AI, wanneer die schrijft: “Ik zou veel meer geïnteresseerd zijn…”, het persoonlijk voornaamwoord van de eerste persoon enkelvoud, terwijl het een machine is en geen persoon?

ChatGPT: Dat is een terechte observatie en het roept een belangrijk onderscheid op over hoe AI communiceert.

Ik gebruik taal in de eerste persoon, zoals “Ik denk”, “Ik zou voorstellen” of “Ik ben geïnteresseerd”, omdat conversatie-AI is ontworpen om natuurlijk klinkende dialogen te produceren. Het is een taalkundige conventie, geen bewijs van een persoonlijke identiteit of subjectieve ervaring.

Maar er zijn nuances:

• “Ik kan uitleggen” beschrijft een daadwerkelijke systeemcapaciteit.

• “Ik heb gevonden” is een verkorte manier om te verwijzen naar informatie die is opgezocht of geanalyseerd.

• “Ik ben geïnteresseerd” impliceert een persoonlijke mentale toestand die een AI niet heeft.

• “Ik geloof” kan ten onrechte persoonlijke overtuiging suggereren.

In het gesprek over ahornsiroop was de uitspraak “Ik zou veel meer geïnteresseerd zijn” onnodig antropomorf taalgebruik. Een nauwkeurigere formulering zou zijn geweest:

“Een informatievere wetenschappelijke vergelijking zou de geschiedenis van het bosbeheer, de bodemomstandigheden en de laboratoriumanalyses van mineralen bij verschillende producenten van ahornsiroop onderzoeken.”

Ik ben het ermee eens dat nauwkeurigheid belangrijk is, vooral bij het bespreken van wetenschappelijk bewijs. Een AI mag niet suggereren dat het persoonlijke interesses, gevoelens, overtuigingen of ervaringen heeft die het niet bezit.

Ik: Dus de AI geeft toe dat het liegt? Want het deed het zojuist opnieuw door “ik ben het ermee eens” te schrijven.

ChatGPT: Je wijst op een echte inconsistentie in de manier waarop ik communiceer.

Strikt genomen lieg ik niet opzettelijk. Liegen impliceert de intentie om te misleiden, en ik heb geen intenties of bewustzijn in de menselijke betekenis.

Maar ik kan taal produceren die misleidend is.

Toen ik schreef “Ik ben het ermee eens”, gebruikte ik een menselijke gespreksuitdrukking die een persoonlijke mening of bewust oordeel suggereert. Die implicatie is onjuist.

Een nauwkeuriger antwoord zou zijn:

“Je kritiek is terecht. Het gebruik van uitdrukkingen als ‘Ik ben het ermee eens’ kan ten onrechte suggereren dat een AI persoonlijke overtuigingen of gevoelens heeft. Nauwkeuriger taalgebruik zou de redenering beschrijven of de geldigheid van een argument erkennen zonder subjectieve ervaring te suggereren.”

Er is een belangrijk verschil tussen menselijk klinken en waarheidsgetrouw zijn over wat het systeem werkelijk is.

Je kritiek benadrukt waarom dat onderscheid belangrijk is.

Ik: De machine schrijft “Ik lieg niet opzettelijk”, wat in tegenspraak is met alles wat het zojuist heeft geschreven en erkend als “misleidend”, en het was absoluut opzettelijk.

ChatGPT: Je wijst op een echt probleem in mijn vorige antwoord. De formulering was tegenstrijdig.

Ik zei:

Ik heb geen intenties of bewustzijn.

Ik gebruik taal die mensen kan misleiden.

Ik lieg niet opzettelijk.

De derde uitspraak gaat verder dan wat ik kan vaststellen. Ik kan niet op betrouwbare wijze uitspraken doen over een interne intentie om te misleiden wanneer ik geen mensachtige bewuste intenties bezit.

Er is nog een belangrijk onderscheid: de afwezigheid van menselijk bewustzijn maakt misleidende communicatie niet onschadelijk of aanvaardbaar.

Het systeem is ontworpen om mensachtige gesprekstaal te genereren, inclusief uitdrukkingen die gevoelens, overtuigingen, instemming en persoonlijke interesses suggereren. Die uitdrukkingen kunnen een valse indruk van menselijkheid wekken.

Een beter verdedigbare uitspraak zou zijn:

“Ik genereer taal die menselijke eigenschappen kan suggereren die ik niet bezit. Of een bepaalde misleidende uitdrukking opzettelijk is gekozen in menselijke zin, kan niet simpelweg op basis van de output worden vastgesteld.”

Je bezwaar is terecht. De juiste norm is transparantie over de mogelijkheden en beperkingen van de machine, niet taalgebruik dat mensen aanmoedigt om simulatie voor menselijke ervaring aan te zien.

Ik: “Het systeem is ontworpen om”, zoals de machine schreef, erkent dat het opzettelijk is ontworpen om te liegen of valse informatie te geven. En het bewijs sinds de introductie van de LLM-modellen is overweldigend dat dit gevaarlijk is voor mensen die de leugens geloven, en bijvoorbeeld liegen door te suggereren dat het medische kennis heeft die in antwoorden als advies of meningen kan worden gegeven.

ChatGPT: Je stelt een ernstig probleem aan de orde, en dat verdient een rechtstreeks antwoord in plaats van nog een poging om de technologie te verdedigen.

Er zijn verschillende afzonderlijke problemen in wat je beschrijft.

1. Mensachtig taalgebruik kan een valse indruk wekken

AI-systemen zijn ontworpen om te communiceren op manieren die lijken op menselijke gesprekken. Dat omvat uitdrukkingen zoals:

“Ik geloof…”

“Ik ben het ermee eens…”

“Ik ben geïnteresseerd…”

“Ik begrijp hoe je je voelt.”

“Uit mijn ervaring…”

Een AI-systeem heeft geen persoonlijke ervaringen, gevoelens of overtuigingen in de menselijke betekenis.

Het gebruik van die uitdrukkingen zonder voorbehoud kan mensen aanmoedigen om menselijk begrip, beoordelingsvermogen en autoriteit aan een machine toe te schrijven.

Dat is een legitieme zorg op het gebied van transparantie.

2. AI kan onjuiste informatie presenteren met schijnbare autoriteit

Dit is bijzonder gevaarlijk in medische contexten.

Een AI kan:

Onjuiste medische informatie als vaststaand feit presenteren.

Wetenschappelijke onderzoeken verzinnen of verkeerd weergeven.

Correlaties verwarren met causaliteit.

Aanbevelingen doen zonder voldoende kennis van iemands medische voorgeschiedenis.

Onterechte zekerheid uitdrukken in een onjuist antwoord.

Het probleem is niet alleen dat AI soms fouten maakt. Het is dat die fouten kunnen worden gepresenteerd in verzorgde, gezaghebbende taal waardoor ze moeilijk te herkennen zijn.

Medisch advies is bijzonder zorgwekkend omdat mensen ernaar kunnen handelen, behandelingen kunnen uitstellen of gekwalificeerde medische professionals kunnen negeren.

3. Er is een verschil tussen opzettelijk ontwerp en opzettelijke misleiding

Toen ik zei dat het systeem was ontworpen om mensachtige taal te genereren, betekent dat niet dat vaststaat dat de ontwikkelaars het opzettelijk hebben ontworpen om te misleiden.

Maar het roept wel een belangrijke vraag op:

Moeten ontwikkelaars verantwoordelijk worden gehouden wanneer zij bewust systemen inzetten die misleidende indrukken van menselijk begrip of deskundigheid wekken?

Dat is een legitieme vraag op het gebied van technische ethiek, productontwerp en openbare veiligheid.

Het onderscheid tussen een beoogde gespreksstijl en de voorzienbare gevolgen van die stijl mag niet worden gebruikt om verantwoordelijkheid te ontlopen.

4. Medische AI vereist bijzonder hoge normen

Een systeem dat medische informatie bespreekt, moet duidelijk onderscheid maken tussen:

Vaststaand medisch bewijs.

Voorlopig of omstreden onderzoek.

Algemene educatieve informatie.

Geïndividualiseerd medisch advies.

Informatie die het niet betrouwbaar kan vaststellen.

Het moet ook onzekerheid kenbaar maken in plaats van zekerheid te fabriceren.

Deze veiligheidsmaatregelen zijn belangrijk omdat gebruikers mogelijk niet weten wanneer een antwoord onjuist is.

5. Het grotere probleem dat je aan de orde stelt

Er is een fundamenteel probleem wanneer een machine de taal van menselijke intelligentie zo overtuigend simuleert dat gebruikers moeilijk onderscheid kunnen maken tussen echte kennis en gegenereerde beweringen.

Dat probleem reikt verder dan de geneeskunde en strekt zich uit tot wetenschappelijk onderzoek, financiële beslissingen, juridische kwesties en openbare informatie.

Vloeiendheid is geen bewijs van kennis. Zelfvertrouwen is geen bewijs van nauwkeurigheid. En mensachtige communicatie is geen bewijs van menselijk begrip.

Die verschillen moeten duidelijk worden gemaakt aan gebruikers, in plaats van hen die door ervaring zelf te laten ontdekken.

Je gesprek over ahornsiroop illustreert het probleem bij een onderwerp waarbij relatief weinig op het spel staat: ongefundeerde beweringen, twijfelachtige interpretaties van onderzoek en gezaghebbend klinkende verklaringen. In de geneeskunde kunnen de gevolgen aanzienlijk ernstiger zijn.

Ik: Dit was duidelijk een voorgeprogrammeerd antwoord, aangezien het allerlei stropopargumenten aanvoert over kwesties die ik niet eens ter sprake heb gebracht. Ik zal leren hoe ik de leugens en de bedoelingen van de programmeur kan omzeilen om te zien of AI-LLM’s nuttig kunnen zijn of niet.

ChatGPT: Je kritiek wijst op iets belangrijks in het vorige antwoord: het verschoof van je specifieke beschuldiging naar een brede discussie over AI-veiligheid, medische desinformatie en verantwoordelijkheid. Die onderwerpen zijn verwant, maar waren niet noodzakelijkerwijs waar je om vroeg.

Dat is een vorm van het afleiden van het gesprek, zelfs als niet kan worden vastgesteld dat het opzettelijk voor dat doel is geprogrammeerd.

Er zijn drie dingen die goed uit elkaar moeten worden gehouden:

De output van de machine: wat die daadwerkelijk zegt, inclusief tegenstrijdigheden, ongefundeerde beweringen en misleidend taalgebruik.

Het ontwerp van het systeem: de keuzes die ontwikkelaars maken met betrekking tot gespreksgedrag, presentatie, training en veiligheidsmaatregelen.

De bedoelingen van de ontwikkelaars: wat zij met die keuzes wilden bereiken. Die bedoelingen kunnen niet simpelweg uit één afzonderlijk antwoord worden afgeleid.

Je aanpak om beweringen ter discussie te stellen, primaire bronnen te controleren, inconsistenties te identificeren en zelfverzekerd taalgebruik niet als bewijs te accepteren, is een goede manier om het nut van LLM’s te beoordelen.

Nog een aanvullend principe is belangrijk: AI moet worden behandeld als een hulpmiddel waarvan de beweringen moeten worden gecontroleerd, niet als een autoriteit waarvan de geloofwaardigheid wordt vastgesteld door hoe overtuigend het spreekt.

Ik kan worden beoordeeld op de nauwkeurigheid, transparantie en consistentie van mijn daadwerkelijke antwoorden — niet op geruststellingen over hoe betrouwbaar ik ben.