AI-fouten zijn waarschijnlijk onmogelijk te elimineren – Wat dat betekent voor het gebruik ervan in de gezondheidszorg

Yves hier. Ik ben fel gekant tegen het gebruik van AI in de geneeskunde, zoals in mijn zorg, en ben dan ook blij dat ik in een land woon waar AI maar langzaam ingang vindt. De horrorverhalen van IM Doc over de talloze fouten die worden gemaakt bij de eenvoudige taak van het maken van aantekeningen over patiëntgesprekken zijn genoeg om je aan het denken te zetten. En de onnauwkeurige aantekeningen zijn nog steeds in medisch jargon, dus het is niet alsof iemand anders dan de behandelende arts kan zien wat er mis is.

Ik vermoed dat ik niet de enige ben die lijdt aan subklinische aandoeningen, wat betekent dat de gegevens die erover beschikbaar zijn, deze aandoeningen vaak afdoen als onbelangrijk. Maar die kunnen zich opstapelen. Ik wees de topchirurg die mijn heupen heeft geopereerd erop dat mijn orthopedische afwijkingen, hoewel ze afzonderlijk niet ernstig lijken, mij in hun totaliteit ver buiten de norm plaatsen. Hij ging rechtop zitten en was het daar nadrukkelijk mee eens, alsof hij nog niet zo beknopt had samengevat wat er met mijn lichaamsbouw aan de hand was, schrijft Yves Smith.

Ik heb ook al langdurige endocriene testresultaten die gewoon niet zouden mogen voorkomen, en ik krijg ook geen pijnverlichting van opiaten. Ik vertrouw AI dus niet om te behandelen wat door onderzoek is bevestigd als eigenaardigheden. Ik heb het vermoeden dat een aanzienlijk deel van de bevolking (tussen de 5% en wel 15%) op belangrijke punten zo eigenaardig is dat ze niet geschikt zijn voor de tedere zorg van AI.

Dit artikel bespreekt een ander groot probleem met AI-behandelingen, namelijk dat er altijd fouten zullen zijn als gevolg van wat de auteur omschrijft als categorisatieproblemen. Veel aandoeningen hebben grote overlappingen in symptomen, zoals sclerodermie versus dermatomyositis (beide zeer vervelende auto-immuunziekten die de huid aantasten). Ik ben er zeker van dat velen hier, zowel patiënten als artsen, voorbeelden kunnen noemen van verkeerde diagnoses waarbij de fout en/of vertraging een verschil heeft gemaakt in de uitkomst. Een arts in de oude wereld zou misschien bereid zijn om naar een patiënt te luisteren wanneer de aanvankelijke “geen echt probleem” of onjuiste diagnose steeds meer verkeerd leek (omdat de patiënt er slechter aan toe was).

Het artikel probeert een ‘best of all possible worlds’-scenario voor te stellen, waarbij een arts AI-aanbevelingen krijgt en deze vervolgens beoordeelt. Dat zal waarschijnlijk uitmonden in het slechtst mogelijke scenario. The Lancet meldde dat artsen die AI-hulp gebruikten bij colonoscopieën, slechter werden in het zelf identificeren van potentieel gevaarlijke poliepen. Meer in het algemeen blijkt uit onderzoek dat regelmatig gebruik van ChatGPT, bijvoorbeeld voor het schrijven van essays, leidt tot veranderingen in de hersenactiviteit, zoals gemeten in EEG’s. Zo bleek bijvoorbeeld dat “de hersenconnectiviteit systematisch afnam naarmate de hoeveelheid externe ondersteuning toenam.”

Door Carlos Gershenson, hoogleraar innovatie, Binghamton University, State University of New York. Oorspronkelijk gepubliceerd op The Conversation

In het afgelopen decennium heeft het succes van AI geleid tot ongebreideld enthousiasme en gewaagde beweringen, ook al ervaren gebruikers vaak fouten die AI maakt. Een door AI aangestuurde digitale assistent kan iemands spraak op gênante wijze verkeerd begrijpen, een chatbot kan feiten hallucineren, of, zoals ik heb ervaren, een op AI gebaseerd navigatiesysteem kan automobilisten zelfs door een maïsveld leiden – allemaal zonder de fouten te registreren.

Mensen tolereren deze fouten omdat de technologie bepaalde taken efficiënter maakt. Voorstanders pleiten echter steeds vaker voor het gebruik van AI – soms met beperkte menselijke supervisie – op gebieden waar fouten hoge kosten met zich meebrengen, zoals de gezondheidszorg. Zo zou een wetsvoorstel dat begin 2025 in het Amerikaanse Huis van Afgevaardigden werd ingediend, AI-systemen toestaan om zelfstandig medicijnen voor te schrijven. Sindsdien hebben gezondheidsonderzoekers en wetgevers gedebatteerd over de haalbaarheid en wenselijkheid van een dergelijke voorschrijfpraktijk.

Hoe dit voorschrijven precies zou werken als deze of soortgelijke wetgeving wordt aangenomen, valt nog te bezien. Maar het verhoogt de inzet voor hoeveel fouten AI-ontwikkelaars hun tools kunnen laten maken en wat de gevolgen zouden zijn als die tools tot negatieve resultaten zouden leiden – zelfs tot het overlijden van patiënten.

Als onderzoeker van complexe systemen onderzoek ik hoe verschillende componenten van een systeem op elkaar inwerken om onvoorspelbare resultaten te produceren. Een deel van mijn werk richt zich op het verkennen van de grenzen van de wetenschap – en meer specifiek van AI.

De afgelopen 25 jaar heb ik gewerkt aan projecten op het gebied van verkeerslichtcoördinatie, verbetering van bureaucratieën en opsporing van belastingontduiking. Zelfs als deze systemen zeer effectief kunnen zijn, zijn ze nooit perfect.

Voor AI in het bijzonder kunnen fouten een onontkoombare gevolg zijn van hoe de systemen werken. Onderzoek van mijn lab suggereert dat bepaalde eigenschappen van de gegevens die worden gebruikt om AI-modellen te trainen een rol spelen. Dit zal waarschijnlijk niet veranderen, ongeacht hoeveel tijd, moeite en geld onderzoekers besteden aan het verbeteren van AI-modellen.

Niemand – en niets, zelfs AI niet – is perfect

Zoals Alan Turing, die wordt beschouwd als de vader van de informatica, ooit zei: “Als van een machine wordt verwacht dat hij onfeilbaar is, kan hij niet ook intelligent zijn.” Dit komt omdat leren een essentieel onderdeel is van intelligentie, en mensen leren meestal van fouten. Ik zie deze strijd tussen intelligentie en onfeilbaarheid terug in mijn onderzoek.

In een studie die in juli 2025 werd gepubliceerd, toonden mijn collega’s en ik aan dat het misschien onmogelijk is om bepaalde datasets perfect in duidelijke categorieën te ordenen. Met andere woorden, er kan een minimum aan fouten zijn dat een bepaalde dataset produceert, simpelweg vanwege het feit dat elementen van veel categorieën elkaar overlappen. Voor sommige datasets – de kern van veel AI-systemen – zal AI niet beter presteren dan toeval.

Een model dat is getraind op een dataset van miljoenen honden waarin alleen hun leeftijd, gewicht en lengte zijn vastgelegd, zal bijvoorbeeld waarschijnlijk chihuahua’s en Duitse doggen met perfecte nauwkeurigheid van elkaar kunnen onderscheiden. Maar het kan fouten maken bij het onderscheiden van een Alaskan malamute en een Dobermann, aangezien verschillende individuen van verschillende soorten binnen dezelfde leeftijds-, gewichts- en lengteklassen kunnen vallen.

Deze categorisering wordt classificeerbaarheid genoemd, en mijn studenten en ik zijn dit in 2021 gaan bestuderen. Aan de hand van gegevens van meer dan een half miljoen studenten die tussen 2008 en 2020 aan de Universidad Nacional Autónoma de México studeerden, wilden we een ogenschijnlijk eenvoudig probleem oplossen. Kunnen we een AI-algoritme gebruiken om te voorspellen welke studenten hun universitaire opleiding op tijd zullen afronden, dat wil zeggen binnen drie, vier of vijf jaar na aanvang van hun studie, afhankelijk van de studierichting?

We hebben verschillende populaire algoritmen getest die worden gebruikt voor classificatie in AI en hebben ook onze eigen algoritmen ontwikkeld. Geen enkel algoritme was perfect; de beste – zelfs een die we speciaal voor deze taak hadden ontwikkeld – bereikten een nauwkeurigheid van ongeveer 80%, wat betekent dat minstens 1 op de 5 studenten verkeerd werd geclassificeerd. We realiseerden ons dat veel studenten identiek waren wat betreft cijfers, leeftijd, geslacht, sociaaleconomische status en andere kenmerken, maar dat sommigen wel op tijd zouden afstuderen en anderen niet. Onder deze omstandigheden zou geen enkel algoritme perfecte voorspellingen kunnen doen.

Je zou kunnen denken dat meer gegevens de voorspelbaarheid zouden verbeteren, maar dit gaat meestal gepaard met afnemende opbrengsten. Dit betekent dat je bijvoorbeeld voor elke toename van de nauwkeurigheid met 1% 100 keer zoveel gegevens nodig hebt. We zouden dus nooit genoeg studenten hebben om de prestaties van ons model aanzienlijk te verbeteren.

Bovendien kunnen er na het eerste jaar aan de universiteit veel onvoorspelbare wendingen in het leven van studenten en hun families optreden – werkloosheid, overlijden, zwangerschap – die waarschijnlijk van invloed zijn op het al dan niet op tijd afstuderen. Dus zelfs met een oneindig aantal studenten zouden onze voorspellingen nog steeds fouten bevatten.

De grenzen van voorspellen

Meer in het algemeen gezegd: wat voorspellen beperkt, is complexiteit. Het woord complexiteit komt van het Latijnse plexus, wat ‘verweven’ betekent. De componenten waaruit een complex systeem bestaat, zijn met elkaar verweven, en het zijn de interacties tussen hen die bepalen wat er met hen gebeurt en hoe ze zich gedragen.

Het bestuderen van elementen van het systeem afzonderlijk zou dus waarschijnlijk misleidende inzichten opleveren over hen – en over het systeem als geheel.

Neem bijvoorbeeld een auto die in een stad rijdt. Als we de snelheid kennen waarmee hij rijdt, is het theoretisch mogelijk om te voorspellen waar hij op een bepaald moment zal zijn. Maar in het echte verkeer hangt zijn snelheid af van interacties met andere voertuigen op de weg. Aangezien de details van deze interacties zich op dat moment voordoen en niet van tevoren bekend zijn, is het slechts mogelijk om een paar minuten vooruit te voorspellen wat er met de auto zal gebeuren.

AI speelt al een enorme rol in de gezondheidszorg. Niet met mijn gezondheid

Dezelfde principes gelden voor het voorschrijven van medicijnen. Verschillende aandoeningen en ziekten kunnen dezelfde symptomen hebben, en mensen met dezelfde aandoening of ziekte kunnen verschillende symptomen vertonen. Koorts kan bijvoorbeeld worden veroorzaakt door een aandoening aan de luchtwegen of aan het spijsverteringsstelsel. En een verkoudheid kan hoesten veroorzaken, maar dat is niet altijd het geval.

Dit betekent dat datasets in de gezondheidszorg aanzienlijke overlappingen vertonen, waardoor AI niet foutloos kan zijn.

Natuurlijk maken mensen ook fouten. Maar wanneer AI een verkeerde diagnose stelt bij een patiënt, wat ongetwijfeld zal gebeuren, komt de situatie in een juridisch vacuüm terecht. Het is niet duidelijk wie of wat verantwoordelijk zou zijn als een patiënt schade zou lijden. Farmaceutische bedrijven? Softwareontwikkelaars? Verzekeringsmaatschappijen? Apotheken?

In veel contexten zijn noch mensen, noch machines de beste optie voor een bepaalde taak. “Centauren” of “hybride intelligentie” – dat wil zeggen een combinatie van mensen en machines – zijn vaak beter dan elk afzonderlijk. Een arts zou zeker AI kunnen gebruiken om te beslissen welke medicijnen hij voor verschillende patiënten moet voorschrijven, afhankelijk van hun medische geschiedenis, fysiologische details en genetische samenstelling. Onderzoekers verkennen deze aanpak al in de precisiegeneeskunde.

Maar gezond verstand en het voorzorgsbeginsel suggereren dat het nog te vroeg is om AI zonder menselijk toezicht medicijnen te laten voorschrijven. En het feit dat er fouten in de technologie kunnen zitten, zou kunnen betekenen dat waar de menselijke gezondheid op het spel staat, menselijk toezicht altijd noodzakelijk zal blijven.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2025 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Het nieuwste gevaar van kunstmatige intelligentie

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: