Julia Osendarp Binnenland 20 jan 2025, 10:18

Leestijd: 4 minuten

Politie voorspelt ‘potentiële criminelen’ met algoritme: ‘Verstrekkende consequenties voor jongeren’

Voorspellen of een jongere in de criminaliteit belandt, kan dat? Volgens politie en justitie wel. Maar kennelijk zit de politie er met deze voorspellingen ook vaak naast en dat heeft grote gevolgen voor sommige jongeren.

De discussie over nationale veiligheid en privacy speelt zich op een hoop vlakken af. De overheid en overheidsorganisaties verzamelen data of privégegevens in de strijd tegen criminaliteit. Maar dat wakkert ook regelmatig de discussie aan over privacybescherming voor de burger aan. Vandaag schrijven we ook over de plannen van onze Minister van Financiën om banken meer te laten samenwerken om witwassen tegen te gaan, dat ook diezelfde soort privacy-vragen oproept.

Algoritme helpt politie om criminaliteit bij jongeren te signaleren

Vandaag schrijft Follow the Money over een algoritme dat de politie gebruikt om criminaliteit vroegtijdig te signaleren. „Een kind beseft het niet, maar elk contact met de politie kan een behoorlijk staartje krijgen”, schrijft het onderzoeksplatform.

Iets stelen uit de supermarkt? Over een hek klimmen, waar dat niet mag? Of een broer die een strafblad heeft? Het kan kennelijk allemaal gevolgen hebben. Gevolgen waarbij ‘de instanties’ voor een kind gaan bepalen wat er moet gebeuren om een jongere op het rechte pad te brengen. 

Preselect stelt score op

Een algoritme, dat Preselect Recidive heet en onder het zogenoemde Landelijk Instrumentarium Jeugdstrafrechtketen (LIJ) valt, schat in welke jongeren van 12 tot 18 jaar met de politie te maken krijgen. De politie, het Openbaar Ministerie (OM), de Raad voor de Kinderbescherming, de Jeugdreclassering en jeugdgevangenissen kunnen Preselect gebruiken. Jongeren krijgen door dit algoritme een specifieke ‘score’, met soms verstrekkende consequenties.

Follow the Money concludeert dat buiten deze overheidsinstanties weinig mensen van dit algoritme afweten.

Gevolgen voor jongeren: Halt of strafblad

Preselect berekent de score aan de hand van een aantal factoren. Zoals leeftijd, geslacht, registraties in politiesystemen (als verdachte, maar ook als getuige, slachtoffer of betrokkene), maar ook het voorkomen van huisgenoten of familieleden in politiesystemen weegt mee.

Het algoritme bepaalt of iemand ‘laag’, ‘midden’ of ‘hoog’ scoort en die score bepaalt mede wat de gevolgen zijn. Een lage score en een delict wat niet zwaar is, zorgt bijvoorbeeld dat een jongere in aanmerking komt voor Halt. Daar moet hij of zij excuus maken, reflecteren op het incident en de schade vergoeden. Maar scoort een jongere hoger? Dan volgt vrijwel altijd een onderzoek door de Raad voor de Kinderbescherming en stijgt de kans op een strafrechtelijke procedure én een strafblad. Eigenlijk stelt justitie dat als een jongere ‘hoger’ scoort, een Halt-traject niet effectief is. En zwaardere maatregelen nodig zijn.

‘Algoritmen deugen niet’

Criminaliteit voorspellen is iets dat de politie doet aan de hand van data zoals aangiftes, criminaliteitscijfers en historische overzichten van het CBS. Maar inmiddels is ook al meermaals vastgesteld dat algoritmen van de politie, onder meer over inbraken en geweldpleging, niet deugen.

Eerder schreef FTM dat bijvoorbeeld burgers met Marokkaanse, Antilliaanse of Somalische afkomst automatisch een hogere score kregen.

Wetenschappers maken zich zorgen

Technologie-onderzoeker en wiskundige Joran van Apeldoorn van de burgerrechtenorganisatie Bits of Freedom keek mee met het onderzoek van FTM en concludeert dat Preselect vaak een vals-positieve score oplevert. „Liever onterecht een hoge score dan onterecht een lage score”, is volgens hem de aanpak van de politie.

Volgens wetenschappers van de Radboud Universiteit, met expertise in computerwetenschappen, algoritmes en recht, heeft deze methode een zorgelijk wankele basis en worden veel foute voorspellingen gedaan. „Moet een computer worden ingezet voor het nemen van beslissingen die zo wezenlijk iemands leven veranderen? En als we dat doen, hoe zorgen we dan dat de menselijke maat overeind blijft en dat de beslissers niet blindvaren op het model?”, stelt onder meer Djoerd Hiemstra, hoogleraar datawetenschappen.

Voorspellende lijsten ‘potentiële criminelen’

Overigens worden de scores en data over ‘potentiële criminelen’ ook door verschillende gemeenten gebruikt. Zij stelden daarmee lijsten op van jongeren over wie ze vermoeden dat die na een delict verder in de fout gaan. Die jongeren kunnen te maken krijgen met ‘bestuurlijke’ ingrepen.

En dat terwijl dat soort voorspellende lijsten volgens het ministerie van Justitie en Veiligheid en de politie dan weer niet de bedoeling zijn.

Ministerie van Justitie en Veiligheid over Preselect

Het ministerie van Justitie en Veiligheid stelt verbeteringen te willen invoeren. Onder meer omdat ook onderzoekers van de Universiteit van Amsterdam in 2023 zorgen uitten het algoritme. Het ministerie zegt zelfs te hebben overwogen Preselect buiten gebruik te stellen. Maar voorlopig beschouwt het ministerie preselect als betrouwbaar genoeg. Toch heeft het geen plannen om te onderzoeken of het algoritme in de afgelopen tien jaar jongeren mogelijk onevenredig heeft getroffen, schrijft FTM.

In een reactie aan het onderzoeksplatform omschrijft het ministerie Preselect als een ‘ondersteunend instrument voor het maken van de processtap of er een (buiten)strafrechtelijk vervolg komt’. „Dit is een advies, geen geautomatiseerd besluit. Preselect kent inderdaad een zekere mate van over- en onderschatting, dat is inherent aan het gebruik van (risico)taxatie-instrumenten.” Het ministerie zegt ook dat deze over- of onderschattingen in de meerderheid van de gevallen worden opgevangen aan de zogeheten ‘ZSM-tafel’, na onderzoek van de Raad voor de Kinderbescherming.

‘Niet geïnformeerd’

Jongeren, ouders en jeugdstrafrechtadvocaten worden nog steeds niet geïnformeerd over het gebruik van Preselect. Het ministerie zegt in een reactie ouders en jongeren in de toekomst wel te willen informeren. 

TikTok niet langer beschikbaar voor Amerikanen

Groot deel ouders ziet socialmediaverbod tot 15 jaar wel zitten

Reacties