Eerlijke besluitvorming in het recht met AI

Thema:
Artificiële intelligentie

De 'Amazon Recruiting Tool' maakte het pijnlijk duidelijk: algoritmen in AI-systemen hebben de neiging om menselijke vooroordelen over te nemen. Dus als dergelijke tools ingezet worden binnen de strafrechtketen kan dat grote consequenties hebben. Dan staat het gelijkheidsbeginsel direct op de tocht. TNO onderzoekt daarom wat er nodig is om tot een eerlijke, transparante AI te komen.

Menselijke tussenkomst

Helaas weten we in Nederland maar al te goed hoe het mis kan gaan. Zo zorgde het blind volgen van de strikte regels van de belastingdienst er mede voor dat duizenden ouders jarenlang onrecht beschuldigd werden van fraude met de kinderopvangtoeslag. De betekenisvolle menselijke tussenkomst was daarmee dus niet zo betekenisvol meer.

Bij het opsporen, aanpakken en veroordelen van criminelen kan artificial intelligence en algoritmen daadwerkelijk van meerwaarde zijn. Maar je moet dan wel weten wat zo’n algoritme precies doet. AI-systemen die op basis van machine learning werken, krijgen namelijk niet alleen met objectieve data te maken. Het gevaar bestaat dus dat algoritmen menselijke vooroordelen overnemen en daardoor zelfs tot ronduit discriminerende conclusies komen, zoals bleek bij Amazon. Een betekenisvolle menselijke rol tussen algoritme en conclusie zou dat probleem moeten oplossen.

Een AI die zich makkelijk laat controleren

Grote vraag: wat kunnen we leren van Amazon en de toeslagenaffaire? En wat moet er nog gebeuren om AI-systemen op een veilige manier in te zetten binnen het strafrecht? Want die ontwikkeling zit er zo goed als zeker aan te komen.

Door de bezuinigingen binnen de strafrechtketen loopt de werkdruk van rechters, officiers van justitie en beoordelaars in het gevangeniswezen namelijk enorm op. Artificial intelligence kan helpen om die werkdruk wat te verlichten. Maar daar is dan wel een eerlijke, transparante AI voor nodig. Een die vrij is van bias, die transparant is en een betekenisvolle menselijke tussenkomst actief forceert. Kortom, een menswaardige AI.

AI-systemen onder de loep

Samen met het openbaar ministerie, de dienst justitiële inrichtingen en het centraal justitieel incassobureau heeft TNO de afgelopen jaren verschillende AI-systemen geanalyseerd.

Zo ook COMPAS, een geavanceerd computerprogramma dat Amerikaanse rechtbanken gebruiken om te beoordelen hoe waarschijnlijk het is dat een verdachte opnieuw de fout in gaat. Bij die analyses kwamen er verschillende vormen van oneerlijkheid aan het licht, die soms opvallend genoeg tot precies tegengestelde conclusies. Eerlijkheid laat zich niet makkelijk vangen in een simpele formule.

Drie uitdagingen

Hoe kunnen we AI-systemen leren om vooroordelen te herkennen en die op een juiste en eerlijke manier te corrigeren? Dat is momenteel de vraag waar TNO en de projectpartners zich mee bezighouden. Daarbij is het zaak om de werkwijze van een AI zo transparant mogelijk te maken. De laatste, en misschien wel belangrijkste uitdaging: ervoor zorgen dat gebruikers niet teveel op een AI-systeem gaan vertrouwen.

Laat je verder inspireren

37 resultaten, getoond 6 t/m 10

David Deutsch over de ontwikkeling en toepassing van AI

Informatietype:
Insight
27 september 2022

Peter Werkhoven, Chief Scientific Officer bij TNO, schuift digitaal aan bij David Deutsch: fysicus, hoogleraar in Oxford en één van de pioniers op het gebied van quantum computing. Samen praten ze over de betekenis van quantum computing voor de ontwikkeling en toepassing van AI. Zal AI ooit in staat zijn ‘verklaarde kennis’ te genereren’ of ethiek van mensen te kunnen leren?

Georgette Fijneman over de belofte van AI voor zorgverzekeraars

Informatietype:
Insight
27 september 2022

Hanneke Molema, senior consultant gezond leven bij TNO, interviewt Georgette Fijneman, sinds 2017 de directievoorzitter van zorgverzekeraar Zilveren Kruis. Wat is de belofte van AI voor één van Nederlands grootste zorgverzekeraars?

Rob de Wijk over de opkomst van AI in geopolitieke context

Informatietype:
Insight
27 september 2022

Anne Fleur van Veenstra, Director of Science bij de TNO-unit SA&P, interviewt Rob de Wijk, emeritus hoogleraar internationale betrekkingen in Leiden én de oprichter van het The Hague Centre for Strategic Studies. Daarnaast is hij een veelgevraagde expert bij radio- en televisieprogramma’s. Wat betekent de opkomst van AI in een geopolitieke context en bij gewapende conflicten?

Bram Schot over de invloed van AI op mobiliteit

Informatietype:
Insight
27 september 2022

Marieke Martens, Science Director bij TNO en hoogleraar Automated Vehicles aan de Universiteit Eindhoven, gaat in gesprek met Bram Schot. Hun gesprek gaat over de invloed van AI op mobiliteit. Wat betekent dat voor het productieproces? En hoe ziet een toekomst met autonome voertuigen eruit?

Eppo Bruins over AI in verschillende overheidsdomeinen

Informatietype:
Insight
27 september 2022

Eppo Bruins, Voorzitter Adviesraad voor wetenschap, technologie en innovatie in gesprek met Michiel van der Meulen (TNO) over de ontwikkeling van AI.