De inzet van een computermodel om recidive te voorspellen staat onder druk. De Inspectie Justitie en Veiligheid concludeert dat het gebruikte algoritme, OxRec, herhaaldelijk foutieve inschattingen geeft van de kans op herval. Reclasseringsorganisaties hebben het systeem daarom voorlopig stilgelegd en onderzoeken hoe het model verantwoord aangepast of vervangen kan worden.
Waarom dit zo’n groot probleem is
Reclassering adviseert rechtbanken en het Openbaar Ministerie over verdachten en veroordeelden. Die adviezen bepalen vaak voorwaarden voor straf, toezicht en re-integratie. OxRec-scores zijn maar één input in dat proces, maar de inspectie waarschuwt dat het model te veel gewicht heeft gekregen.
Als professionals de uitkomst klakkeloos overnemen, ontstaan juridische en ethische risico’s en kunnen foutieve beslissingen directe gevolgen hebben voor mensen en de openbare veiligheid.
Waar het model tekortschiet
De inspectie noemt meerdere gebreken die het vertrouwen ondermijnen:
– Systematische onnauwkeurigheid: voor sommige groepen geeft OxRec consequent te hoge of te lage risicoschattingen; het meest voorkomend is onderschatting van risico, wat kan leiden tot te licht toezicht.
– Onjuiste classificaties: onderscheid tussen categorieën als ‘veroordeeld’ en ‘in onderzoek’ verloopt niet altijd goed, wat tot foute scores leidt.
– Ontbrekende relevante variabelen: zaken als psychiatrische stoornissen of lidmaatschap van kwetsbare groepen ontbreken, waardoor de voorspellende waarde beperkt is.
– Verouderde of buitenlandse trainingsdata: delen van het model zijn getraind op datasets die niet representatief zijn voor de Nederlandse praktijk, met mismatch tussen model en werkelijkheid tot gevolg.
Die tekortkomingen vergroten het risico op onterechte beslissingen, claims en reputatieschade.
Menselijke toetsing en verantwoordelijkheid
Algoritmen hebben aanvullende waarborgen nodig. Dat betekent dat professionals de uitkomsten kritisch moeten kunnen beoordelen, dat er technische en juridische expertise beschikbaar moet zijn om inputs en updates te controleren, en dat auditsporen aanwezig moeten zijn.
Een cruciale vraag is: wie is aansprakelijk als een voorspelling verkeerd blijkt — de reclassering, de ontwikkelaar of de organisatie die het model inzet? Die vraag wordt nu tussen betrokken partijen uitgezocht.
Risico op indirecte discriminatie
Schijnbaar neutrale kenmerken zoals postcode of inkomen kunnen sterk samenhangen met etnische afkomst en zo onbedoeld discriminerende uitkomsten veroorzaken. Het College voor de Rechten van de Mens benadrukt dat het gebruik van zulke variabelen alleen proportioneel en zorgvuldig mag gebeuren. Zonder grondige impactanalyses, statistische toetsen en onafhankelijke betrokkenheid blijft het risico op vooringenomenheid groot.
Wat dit betekent voor betrokkenen
Een foutieve score heeft praktische consequenties: strengere of juist lichtere voorwaarden, andere trajectadviezen of aangepast toezicht. Dat raakt concrete beslissingen, bijvoorbeeld de voorwaarden bij voorwaardelijke vrijlating of de intensiteit van begeleiding. Voor degene om wie het gaat kunnen zulke beslissingen verstrekkende gevolgen hebben.
Acties en vervolgstappen
Reclassering Nederland, de verslavingsreclassering GGZ, het Leger des Heils en andere partijen hebben OxRec uit voorzorg geschorst. Het rapport verwacht binnen zes maanden een onafhankelijke toetsing; op basis daarvan wordt besloten of het model aangepast, beperkt of definitief stopgezet wordt.
Concrete maatregelen die genoemd worden:
– Technische en methodologische verbeteringen doorvoeren.
– Verplichte externe audits en onafhankelijke toetsing.
– Discriminatie‑impactanalyses uitvoeren en proxyvariabelen verwijderen of corrigeren.
– Duidelijke documentatie van gebruikte variabelen en beslisregels (ook belangrijk voor GDPR‑compliance).
– Trainingen, heldere protocollen en aanstelling van compliance‑verantwoordelijken in de praktijk.
Een gebalanceerd veranderprogramma
Er wordt gewerkt aan een veranderprogramma in samenwerking met het ministerie van Justitie en Veiligheid en een brede groep wetenschappers. Totdat technische en governance‑kwesties zijn opgelost, stappen organisaties over op risicotaxatie-instrumenten zonder algoritmische componenten.
Waarom dit zo’n groot probleem is
Reclassering adviseert rechtbanken en het Openbaar Ministerie over verdachten en veroordeelden. Die adviezen bepalen vaak voorwaarden voor straf, toezicht en re-integratie. OxRec-scores zijn maar één input in dat proces, maar de inspectie waarschuwt dat het model te veel gewicht heeft gekregen. Als professionals de uitkomst klakkeloos overnemen, ontstaan juridische en ethische risico’s en kunnen foutieve beslissingen directe gevolgen hebben voor mensen en de openbare veiligheid.0