Jonge vrouw overlijdt nadat artsen AI lieten beslissen of ze behandeling nodig had

Een Braziliaanse vrouw is overleden nadat een door AI aangestuurd ziekenhuisbeheersysteem had besloten dat ze geen levensreddende behandeling nodig had en haar overplaatsing naar een intensive care-afdeling had uitgesteld. Dit roept alarmerende vragen op over de groeiende rol van kunstmatige intelligentie bij medische beslissingen over leven en dood.

Deze tragische zaak wakkert de bezorgdheid aan dat niet-gekozen algoritmen steeds vaker het oordeel van artsen terzijde schuiven, terwijl patiënten daarvoor de ultieme prijs betalen, schrijft Frank Bergman.

De tweeëndertigjarige Rebeca Cardoso Tenente Molina is overleden nadat ze naar verluidt vijf dagen had moeten wachten op een bed op de intensive care, terwijl haar toestand snel verslechterde.

In plaats van haar geval persoonlijk te beoordelen, lieten artsen het aan het AI-systeem over om te beslissen of Molina zou leven of sterven.

De AI besloot echter dat Molina een lage prioriteit had en stelde haar spoedbehandeling uit.

Haar familie is er nu van overtuigd dat deze vertraging haar het leven heeft gekost.

Familie geeft AI-gestuurd ziekenhuissysteem de schuld

Molina werd aanvankelijk opgenomen in het ziekenhuis van São João Nepomuceno nadat ze zich had laten behandelen voor galstenen.

Toen haar gezondheid verslechterde, grepen artsen uiteindelijk in en probeerden haar over te plaatsen naar een IC-afdeling in Oliveira, op ongeveer 186 mijl afstand.

Maar ondanks de urgentie van haar toestand blokkeerde het AI-systeem het verzoek, en de overplaatsing kwam nooit op tijd tot stand.

Volgens het Braziliaanse nieuwsmedium MG1 hebben de familieleden van Molina zelfs spoedmaatregelen genomen om de overplaatsing af te dwingen.

Deze poging leidde echter niet tot onmiddellijke behandeling.

Haar zus, advocate Sâmela Cardoso Tenente Furtado, zegt dat een door de staat beheerd AI-systeem een centrale rol speelde in de fatale vertraging.

Volgens Furtado maakte het Staatscentrum voor Regelgevingsoperaties (Core-MG) gebruik van een geautomatiseerd scoresysteem dat Molina een lagere ernstclassificatie toekende dan haar toestand rechtvaardigde.

Daardoor kregen andere patiënten voorrang boven haar.

“Wat we zagen, was dat artsen de autonomie verloren om te beslissen of een patiënt zeer ernstig ziek is”, aldus Furtado.

“Degene die moet beoordelen of een patiënt ernstig ziek is, is niet langer de arts die ter plaatse die realiteit met de patiënt meemaakt; het is het Core.”

Algoritme zou verslechterende toestand hebben genegeerd

Furtado zei dat het systeem voortdurend pogingen om Molina’s prioriteitsniveau te verhogen afwees, ondanks toenemend bewijs dat haar toestand ernstiger werd.

“Ze zou een 10 moeten zijn geweest, maar het systeem accepteerde haar slechts als een 6,8,” legde Furtado uit.

“Daardoor kon ze niet op de juiste manier door het systeem heen komen, omdat een patiënt met een 8 of een patiënt met een 6,9 haar zou voorbijstreven.”

Volgens de familie werd het geautomatiseerde scoresysteem een inflexibele poortwachter die de medische professionals die de patiënt rechtstreeks behandelden, terzijde schoof.

“Het systeem weigerde haar ernstniveau binnen het systeem te verhogen vanwege de tests die het voortdurend van gegevens voorzagen,” zei Furtado.

Voor critici onderstreept deze zaak de groeiende bezorgdheid dat bureaucratieën in de gezondheidszorg bij de toewijzing van schaarse medische middelen steeds meer vertrouwen op algoritmen in plaats van op artsen.

‘Mijn zus was niet zomaar een nummer’

De familie van Molina zegt dat de tragedie de gevaren blootlegt van het reduceren van patiënten tot gegevenspunten binnen een geautomatiseerd systeem.

“Mijn zus, en andere mensen, zijn niet zomaar nummers; ze zijn niet zomaar protocollen; ze zijn niet zomaar een CPF dat in het systeem wordt ingevoerd”, zei Furtado, verwijzend naar het nationale identificatienummer van Brazilië.

“Ze hebben families, ze hadden dromen, ze hadden nog een heel leven voor zich.”

De emotionele getuigenis vindt weerklank bij critici die waarschuwen dat AI-systemen in cruciale sectoren worden ingezet voordat de gevolgen ervan in de praktijk volledig worden begrepen.

Ambtenaren verdedigen het systeem

De controverse komt slechts enkele weken nadat staatsambtenaren het AI-ondersteunde systeem aanprezen als een belangrijke technologische vooruitgang.

Toen het platform in mei werd gelanceerd, zei Poliana Cardoso Lopes, adjunct-secretaris van Volksgezondheid van Minas Gerais, dat het systeem beter toezicht zou bieden en het patiëntenbeheer zou verbeteren.

“Core biedt een beddenoverzicht dat driemaal per dag wordt bijgewerkt,” zei Lopes destijds.

“Hierdoor wordt het mogelijk om veel meer controle over het proces te hebben en betere gegevens te genereren over de klinische toestand en behoeften van elke persoon die op een bed wacht.”

Na het overlijden van Molina verdedigden gezondheidsfunctionarissen van de deelstaat het proces en benadrukten ze dat overplaatsingen gebaseerd zijn op de beschikbaarheid van bedden en klinische vereisten.

De functionarissen beweerden ook dat het nieuwe systeem de protocollen van de deelstaat voor het overplaatsen van patiënten tussen ziekenhuizen niet fundamenteel had veranderd.

Toenemende bezorgdheid over AI in de gezondheidszorg

Deze zaak zal het debat over de snelle uitbreiding van kunstmatige intelligentie in gezondheidszorgsystemen wereldwijd waarschijnlijk aanwakkeren.

Terwijl voorstanders beweren dat AI de efficiëntie kan verbeteren en de administratieve lasten kan verminderen, waarschuwen critici dat geautomatiseerde besluitvorming gevaarlijke blinde vlekken kan creëren wanneer het menselijk oordeel terzijde wordt geschoven.

Voor de familie van Molina is de kwestie pijnlijk eenvoudig.

Zij zijn ervan overtuigd dat een algoritme heeft bepaald waar hun dierbare in de wachtrij voor behandeling stond en dat het systeem het bij het verkeerde eind had.

Nu is een jonge vrouw overleden en rijzen er steeds meer vragen over of kunstmatige intelligentie ooit beslissingen mag nemen die bepalen wie levensreddende zorg krijgt en wie niet.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Een rouwende familie gebruikte AI-chatbot Claude om een ziekenhuisrekening van 195.000 dollar aan te vechten en deze terug te brengen tot 33.000 dollar

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: