Van burger tot risicoprofiel: hier beslist AI nu al over het lot van mensen

Californië erkent nu dat het binnen de overheid meerdere ‘hoogrisicovolle geautomatiseerde beslissingssystemen’ inzet. Nog vorig jaar beweerden de autoriteiten dat er geen enkel dergelijk systeem in gebruik was. Nu staat officieel vast dat algoritmen onder meer gedetineerden, werklozen en studenten beoordelen — en daarbij scores en kengetallen genereren die merkbare gevolgen kunnen hebben voor het leven van de betrokkenen.

Misschien kent u het sciencefictionverhaal “Minority Report” van Philip K. Dick. Daarin verzamelt de staat enorme hoeveelheden gegevens, stelt risicoprofielen op en reduceert een mens tot een getal, waaruit kan worden afgeleid hoe hij in de toekomst moet worden behandeld. Maar in Californië is dit geen pure sciencefiction meer. Het Californische ministerie van Technologie (CDT) heeft in zijn meest recente verplichte rapport zes zogenaamde “High-Risk Automated Decision Systems” opgesomd. Systemen dus die met behulp van AI risicobeoordelingen opstellen. Een eerste stap in de richting van een Social Credit Score, schrijft Heinz Steiner.

Vorig jaar nog had Californië in het eerste rapport over dit onderwerp verklaard dat het geen dergelijke systemen gebruikte. Nu luidt het plotseling: zes systemen zouden al in gebruik zijn, een ander zou in ontwikkeling zijn. Het ministerie verklaart het verschil door te zeggen dat het deze keer nauwkeuriger heeft gekeken, overheidsinstanties heeft ondervraagd en hun gegevens heeft gecontroleerd. Dergelijke systemen waren dus al eerder in gebruik, maar officieel had niemand in de door groen-linkse Democraten geregeerde staat daar zo nauwkeurig naar gekeken. Het zou echter interessant zijn om te weten in hoeverre dit al jarenlang officieus wordt ondersteund.

Interessant is in dit verband onder andere ook de zogenaamde California Static Risk Assessment, kortweg CSRA. Dit systeem beoordeelt gedetineerden aan de hand van vaste persoonlijke gegevens en stelt op basis daarvan een risicoscore vast. Er wordt onder andere rekening gehouden met leeftijd, geslacht, eerdere veroordelingen voor overtredingen of misdrijven, en schendingen van proeftijd- en voorwaardelijke regelingen. Het resultaat is een indeling van 1 tot 5. Niveau 1 staat voor een laag risico, niveau 5 voor een hoog risico op geweld. Volgens de Californische gevangenisdienst is de waarde bedoeld om te voorspellen hoe waarschijnlijk het is dat een persoon binnen drie jaar na zijn of haar voorwaardelijke vrijlating opnieuw wordt gearresteerd wegens een misdrijf.

En deze score heeft gevolgen. Ze is bijvoorbeeld van invloed op de prioriteit die een gedetineerde krijgt bij onderwijs-, beroeps- en overgangsprogramma’s. Wie het hoogste niveau 5 bereikt, kan worden uitgesloten van bepaalde re-integratieprogramma’s en wordt door de reclasseringsdienst ingedeeld als “High Control” (streng toezicht). Een statistische inschatting wordt zo een factor die bepalend is voor de kansen na de detentie en voor de intensiteit van het toezicht door de staat. De staat benadrukt weliswaar dat het niet om een autonoom beoordelingssysteem gaat. De score is bedoeld om ambtenaren te ondersteunen, niet om hen te vervangen. Maar juist hier ligt het probleem: zodra een risicowaarde wordt meegenomen in dossiers, programma’s, toezichtsbeslissingen en administratieve processen, krijgt deze een eigen autoriteit. De computer heeft gesproken – en wie wil er later verantwoordelijk zijn voor het negeren van een zogenaamd “objectieve” waarschuwing?

Wanneer beslissen algoritmen over ieders leven?

Als dergelijke geautomatiseerde systemen worden uitgebreid naar cruciale gebieden zoals huisvesting, onderwijs, werkgelegenheid, kredietverlening of de gezondheidszorg, beslissen algoritmen over steeds meer aspecten van het dagelijks leven. En nu al worden niet “alleen” gevangenen beoordeeld. Californië hanteert bovendien een instrument voor het opsporen van vermoedelijk frauduleuze aanvragen voor werkloosheidsuitkeringen. Aan de California State University worden systemen ingezet voor digitaal toezicht tijdens examens en voor het herkennen van zogenaamd door AI gegenereerde teksten. Daarbij komen nog andere instrumenten in het gevangeniswezen, waaronder het bekende COMPAS-systeem voor het inschatten van de behoefte aan rehabilitatie en het risico op recidive.

Hieruit tekent zich een patroon af. De staat test en voert geautomatiseerde beoordelingen niet alleen in bij zware misdrijven. Ze vinden stap voor stap hun weg naar sociale uitkeringen, universiteiten, sollicitaties en administratieve procedures. Vandaag is het de risicoscore van een gedetineerde. Morgen is het de “Social Credit Score“ van de gewone burger, die via dergelijke systemen wordt opgesteld. Bijzonder veelzeggend is hierbij wat het door links geregeerde Californië momenteel niet heeft: een duidelijke wettelijke barrière tegen het feit dat geautomatiseerde systemen de enige basis vormen voor een overheidsbeslissing. Een wetsontwerp dat precies dit moest voorkomen, is pas vorige maand in de parlementaire procedure gestrand.

“Minority Report” gaat over een samenleving die mensen straft voor daden die ze nog niet hebben begaan. Daar zijn we in het geval van Californië weliswaar nog ver van verwijderd – maar het globalistisch-technocratische totalitarisme, dat door het World Economic Forum (WEF) en zijn aanhangers wordt gepromoot, gaat nu eenmaal in deze richting. Totale bewaking, totale controle en uitgebreide, geautomatiseerde beoordelingssystemen voor iedereen. En vergeleken daarmee zal het Social Credit-systeem in China slechts een zwak prototype zijn.

Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.

Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.

Gedachtenlezen-technologie is nu werkelijkheid en staat op het punt om volledig uit de hand te lopen

Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram

Lees meer over: