Black Mirror in real life: algoritme bepaalt wie gevangenis in moet

Robots spelen een steeds grotere rol in alledaagse processen. We zijn ons vaak (gelukkig) niet eens bewust van hoe ver dit daadwerkelijk gaat. Wist je bijvoorbeeld dat in de Verenigde Staten een algoritme bepaalt of men de cel in gaat of niet? Precies.

Dit lijkt misschien iets uit een aflevering van Black Mirror, maar niets is minder waar. Zo maakte VPRO’s Tegenlicht een interessante video over de zogenaamde robotrechter in de VS.

Overheden gebruiken steeds meer kunstmatige intelligentie

Kijk niet direct op, maar kunstmatige intelligentie houdt je in de gaten. Zowel overheden als andere partijen gebruiken de data die ze over ons te verzamelen in hun slimme technologie├źn. Die gebruiken ze vervolgens om politieke en sociale controle uit te oefenen. Dat klinkt niet zo lekker, maar zo zit het wel.

Kunstmatige intelligentie (AI) en gezichtsherkenning wordt in Saudi Arabi├ź en China bijvoorbeeld gebruikt om mensen op te pakken. Het algoritme herkent criminelen bijvoorbeeld op beveiligingscamera’s of zet mensen die een klein vergrijp hebben gepleegd publiekelijk ten schande. Maar ook westerse landen maken veelvuldig gebruik van AI. Neem bijvoorbeeld de VS, waar de Amerikaan Glenn Rodrigues veroordeeld is door een algoritme.

AI algoritme gezichtsherkenning
AI camera’s met gezichtsherkenning in China (Bron: ANP / Nicolas Asfouri / AFP)

Algoritme bepaalde Glenn Rodrigues’ lot

Rodrigues hoopte op een vervroegde vrijlating nadat hij de laatste 10 jaar goed gedrag had vertoond. Helaas zat die vervroegde vrijlating er niet in voor hem. Dat werd bepaald door een algoritme dat in de VS wordt gebruikt om in te schatten hoe waarschijnlijk het is dat veroordeelden weer op het verkeerde pad belanden. Het algoritme, genaamd COMPAS, besloot dat Rodrigues nog niet kon worden vrijgelaten. Ondanks dat de commissie (bestaande uit mensen) besloot dat hij wel kon worden vrijgelaten, werd het advies van het algoritme opgevolgd.

Dat de rechtspraak (in dit geval in de VS) AI op deze manier gebruikt is wellicht wat beangstigend. En voor Rodrigues betekent het dat hij nog een tijd vast zit. Benieuwd naar hoe het algoritme besloot over Rodrigues’ lot? Check dan hier de video die Tegenlicht er over maakte.

kunstmatige intelligentie AI algoritme
Kunstmatige intelligentie (Bron: Unsplash)

Het gebruik van algoritmen is niet alleen overzees steeds gebruikelijker, maar ook ons eigen kikkerlandje investeert flink in AI. Zo besloot staatssecretaris Mona Keizer recent nog dat Nederland een aardige berg geld gaat uitgeven aan kunstmatige intelligentie.

Reageer op artikel:
Black Mirror in real life: algoritme bepaalt wie gevangenis in moet
Sluiten