Vooroordelen in gezichtsherkenning en rekruteringssystemen. Ongevallen met zelfrijdende auto’s. Dit soort missers laat zien dat AI nog een flinke ontwikkeling moet doormaken. Die ontwikkeling gaat het snelst als dat in nauwe samenwerking met mensen gebeurt.

Ja, er zijn zeker al grote successen geboekt met kunstmatige intelligentie. Zo zijn er AI-systemen die dankzij deep learning tumoren kunnen herkennen of kunnen liplezen. Maar AI-systemen laten ook nog regelmatig steken vallen. En dat kan zeer ongewenste gevolgen hebben. Vooral bij ethisch gevoelige toepassingen of bij situaties waarin de veiligheid op het spel staat.

Het is daarom tijd voor de volgende stap: een nauwere samenwerking tussen AI en mensen. Zo kunnen we AI-systemen ontwikkelen die ons bij complexe beslissingen ondersteunen. En waar we op een prettige en veilige manier mee kunnen samenwerken.

AI heeft nog een flinke leercurve voor de boeg

Om te beginnen heeft AI de neiging om menselijke vooroordelen klakkeloos over te nemen. Dat is met name een probleem als het om maatschappelijke en ethisch gevoelige toepassingen gaat. Het rekruteren van nieuw personeel bijvoorbeeld. Of het voorspellen van de kans dat een delinquent opnieuw de fout in gaat.

Daar komt ondoorzichtige besluitvorming nog bij. AI-systemen moeten leren om transparanter te worden. Dit is helemaal het geval als ze voor gevoelige onderwerpen worden ingezet. Denk aan wetshandhaving of het opsporen van sociale zekerheidsfraude.

AI systemen moeten niet star zijn. Ze moeten zich aanpassen aan de gebruiker en aan de veranderende maatschappij zonder ethische en juridische voorwaarden uit het oog te verliezen.

Tot slot, kunnen de gegevens die de AI analyseert privacy gevoelig en vertrouwelijk zijn. Dit speelt vooral als bedrijven en organisaties samenwerken in een besluitvormingssysteem.

Wat kunstmatige intelligentie nog nodig heeft

TNO onderzoekt momenteel wat er nodig is voor een verantwoorde besluitvorming tussen mens en machine. Daarbij zijn er vier aandachtspunten:

  1. Verantwoorde AI: door AI systemen ethische en juridische voorwaarden bij te brengen.
  2. Verklaarbare AI: door verschillende gebruikerstypen in staat te stellen de adviezen van het systeem te begrijpen en te kunnen opvolgen.
  3. Co-learning: door met de hulp van mensen aan te passen aan een veranderende wereld. Op zo’n manier dat de ethische en juridische uitgangspunten in het systeem verankerd zijn.
  4. Secure learning: door te leren van gegevens zonder ze daadwerkelijk te delen met andere partijen.

Doel: een betrouwbare en eerlijke AI

TNO levert een bijdrage aan betrouwbare AI-systemen die aantoonbaar op een eerlijke manier te werk gaan. Altijd. Dus ook in een complexe omgeving die snel verandert. Daarbij willen we AI-systemen ontwikkelen die aan verschillende soorten gebruikers kunnen uitleggen waarom ze een bepaalde beslissing nemen.

De diepte in met use cases

Misschien nog goed om te weten: naast deze onderzoeksrichting werken we ook aan veilige autonome systemen in een open wereld. Zo werken we vanuit verschillende invalshoeken aan oplossingen voor de huidige uitdagingen met AI. Maar hier ligt de focus dus nadrukkelijk op een ‘verantwoorde besluitvorming tussen mens en machine’. Met onderstaande use cases werken we onze AI technologie uit in praktische situaties:

Wil je een use case inbrengen in deze programmalijn?

Neem dan contact op met Cor Veenman

Contact opnemen
Ons werk

Autonome systemen in de echte wereld

Robotica, beeldherkenning, zelfrijdende auto’s. De afgelopen jaren heeft artificial intelligence (AI) op die vlakken voor enorme vooruitgang gezorgd. Ondertussen groeien wel de zorgen over de veiligheid... Lees verder
Ons werk

Artificial intelligence maakt geld witwassen een stuk lastiger

Bij de bestrijding van witwaspraktijken is het voor banken handig als ze data met elkaar uit kunnen wisselen. Maar hoe doe je dat als je ook de privacy van klanten wil waarborgen? TNO ontwikkelt daar momenteel... Lees verder
Ons werk

De juiste mensen voor de juiste job: Een eerlijke matchmaker op basis van AI

Een diploma zegt lang niet alles. Welke skills iemand bezit, is vandaag de dag een veel belangrijkere vraag. En in hoeverre sluiten die skills aan bij wat er in een vacature wordt gevraagd? Samen met... Lees verder
Contact

Cor Veenman

  • Machine learning
  • Data science
  • Responsible data science
  • Fairness
  • Bias