blik op de toekomst

Hoe kunnen we Artificial Intelligence gaan vertrouwen?

8 januari 2019 • 4 min leestijd

Het toekomstbeeld is lonkend: kunstmatige intelligentie, ook wel Artificial Intelligence (AI) genoemd, zal ons leven aangenamer en eenvoudiger maken. Toch heerst er wantrouwen. Wat doen de algoritmes achter AI eigenlijk en wie controleert dat? TNO onderzoekt wat er nodig is om vertrouwen in AI te krijgen: “Het begint met transparantie, uitlegbaarheid en sprekende resultaten.”

“Hoe ga je om met ziekte?”, vraagt TNO-onderzoeker en Integrator Healthy Living Heleen Wortelboer. “Ga je de symptomen bestrijden of pak je de oorzaak aan?” Ze beantwoordt de vraag zelf: “In acute gevallen kies je voor het eerste. Wil je de oorzaak aanpakken, met name bij chronische welvaartsaandoeningen, dan moet je weten wat er speelt en heeft gespeeld. Dat vereist inzicht in het probleem en een uitgebreide dataset, die je in samenhang kunt analyseren. Dat is precies waarvoor AI geschikt is.”

Diabetes en burn-out

Wortelboer richt zich vooral op chronische stress, overgewicht en diabetes type2: “Daarover hebben we veel kennis en er zijn voldoende fysiologische gegevens. Voor sociale factoren, zoals de huiselijke omstandigheden of de werkomgeving, ligt dat moeilijker. Toch moeten we die ook meenemen in het onderzoek naar mogelijke oorzaken en behandelingen van deze aandoeningen. Denk maar aan iemand met een burn-out, die weer aan het werk gaat: als daar niets is veranderd, dan weet je meteen al dat het opnieuw misgaat.”

“Met de data die TNO krijgt via samenwerkingen kunnen we AI-systemen voeden die een gepersonaliseerd gezondheidsadvies opleveren”

Voor een gericht gezondheidsadvies zijn veel en relevante data nodig. Wortelboer: “Die data krijgt TNO in zogeheten field labs, samenwerkingen met bedrijven, behandelcentra of patiëntenverenigingen. De data kunnen daarin veilig en anoniem worden gedeeld. Met die data kunnen we AI-systemen voeden, die een gepersonaliseerd gezondheidsadvies opleveren. Voorlopig moet dat nog wel in overleg met zorgprofessionals worden getoetst.”

Burger blijft eigenaar van de data

Zowel het verkrijgen van data als de acceptatie van AI staat of valt met vertrouwen, zegt Wortelboer: “Daarom moet de burger zelf bepalen wat er met zijn of haar gegevens gebeurt. Nationale initiatieven, bijvoorbeeld over het delen van persoonlijke gezondheidsdata met behoud van privacy, helpen daarbij. Verder moeten we ons blijven afvragen of we niet meer gegevens verzamelen dan nodig is en of de adviezen bruikbare resultaten opleveren.”

Een mooie stap in de goede richting is Secure Multi-Party Computation, een innovatieve manier waarin meerdere partijen gebruik kunnen maken van dezelfde data, zonder dat deze data wordt gedeeld of uitgewisseld.

Transparentie

“Om vertrouwen op te bouwen, moet bovendien transparant zijn hoe AI-systemen tot conclusies of adviezen komen”, zegt Stephan Raaijmakers, die gespecialiseerd is in de technische uitlegbaarheid van AI. Hij noemt diverse manieren om vertrouwen te kweken via uitlegbaarheid: “Als AI een analyse onderbouwt met een verwijzing naar de voorbeelddata waar het van geleerd heeft, begrijp je beter waar conclusies vandaan komen. Je kunt ook laten zien op welke deelaspecten van de data AI speciaal heeft gelet bij het formuleren van conclusies of aanbevelingen.’’

“Je kunt AI zien als die slimme collega die dingen doet die hij maar deels kan uitleggen. Die ga je op den duur vertrouwen, mits hij nauwkeurig, consistent en ethisch werkt”

Uitlegbaarheid is een belangrijke factor die vertrouwen en acceptatie bepaalt, zegt Raaijmakers. Daarnaast spelen nauwkeurigheid, herhaalbaarheid en ethiek een rol: “Je zou bepaalde vormen van AI kunnen zien als die slimme collega die dingen doet die hij maar ten dele aan je kan uitleggen. Die ga je op den duur vertrouwen, mits hij nauwkeurig, consistent en ethisch werkt.” In veel situaties blijft uitleg nodig: “In de gezondheidszorg bijvoorbeeld of bij het duiden van door een algoritme geproduceerde analyses in een strafzaak. Bovendien moet helder zijn wie uiteindelijk beslist: de mens of het systeem.”

AI geeft duidelijkheid

Uitlegbare AI staat hoog op de internationale onderzoeksagenda, zegt Raaijmakers. “Het is allereerst een kwestie van techniek: hoe openen we de black box van een AI-algoritme? We weten verder nog weinig van de ontvanger van de uitleg, de mens. Wanneer komt uitleg over? Heb je gepersonaliseerde uitleg nodig om de conclusies van AI te accepteren?”

TNO gaat experimenteel toetsen wat een goede en effectieve uitleg is, onder andere in het medisch domein, zegt Wortelboer: “Gepersonaliseerde leefstijladviezen voor mensen met een ongezonde leefstijl en diabetes type2 zijn de focus.”

Blijf zelf denken!

Uiteindelijk kunnen AI en de mens hecht gaan samenwerken. Raaijmakers: “AI helpt ons met gericht advies en wij verbeteren het systeem weer met bruikbare data en feedback. Zo wordt AI op de lange termijn een betrouwbare collega voor de mens en kun je met wat fantasie uiteindelijk zelfs van een symbiotische relatie spreken.”

“Blijf vooral zelf nadenken en het systeem waar nodig tegenspreken. Daarvan leren beide”

Dat betekent ook dat gebruikers niet alle adviezen van een AI-systeem klakkeloos moeten aannemen. Raaijmakers: “Blijf vooral zelf nadenken en het systeem waar nodig tegenspreken. Daarvan leren beide.”

Wetgeving in beweging

Ondanks dat leerproces kunnen er ongelukken gebeuren, zoals in maart vorig jaar met een zelfrijdende auto van Uber in de Verenigde Staten. “In Nederland zou in beginsel de bestuurder aansprakelijk zijn”, zegt TNO-juriste Somayeh Djafari: “Maar als het systeem niet goed functioneert, kan dat ook de producent zijn. Uiteindelijk moet de rechter of de wetgever duidelijkheid geven.”

Overigens bleek onlangs dat het dodelijke ongeluk met de zelfrijdende auto van Uber geen fout van het systeem was. De toezichthouder in de auto, die moet ingrijpen als het systeem faalt, zat een video te kijken en lette niet op. Ook hadden de engineers de noodstopfunctie uitgeschakeld. Dat systeem had de fietser al acht seconden ‘gezien’, maar kon niet ingrijpen.

Experimenteerwet

Wat dit soort cases voor AI gaan betekenen, is nog onduidelijk. Djafari: “Een voorbeeld is de ‘Experimenteerwet zelfrijdende auto’s’, die het mogelijk maakt om te experimenteren met auto’s zonder bestuurder. De Eerste Kamer heeft die wet aangenomen en nu is het wachten op de ondertekening en inwerkingtreding.”

De wetgever gaat er behoedzaam mee om. Djafari: ‘Uiteindelijk willen we een bijdrage leveren aan het maatschappelijk debat over kansen, risico’s, beperkingen en voorwaarden van de inzet van AI.  Experimentele wetgeving kan een instrument zijn voor het vinden van een balans tussen het belang van innoveren en andere publieke belangen zoals rechtsbescherming, gelijkheid, privacy en veiligheid.’

Meer weten?

Wil je verder praten over Artificial Intelligence en onze toepassingen? Neem dan contact op met Stephan Raaijmakers.

Contact
innovatie

Een snellere uitrol van flexibele displays dankzij SALDtech

27 mrt '19 - 2 min
Ja, er bestaan al telefoons met flexibele displays. Maar het kost momenteel wel veel tijd en geld om beeldschermen met de gewenste buigbaarheid te produceren. Ondertussen... Lees meer
verhaal van de klant

"Met MPC maken we marketing software privacyvriendelijk"

22 mrt '19 - 3 min
Het Nederlandse bedrijf Flytxt ontwikkelt voor ruim honderd ondernemingen in vijftig landen softwareproducten voor marketing automatisering met machine learning... Lees meer
innovatie

D-score: wereldwijd inzicht in de ontwikkeling van kinderen

20 mrt '19 - 2 min
Wereldwijd zijn er nog altijd veel kinderen die in hun eerste vijf levensjaren een achterstand oplopen, doordat ze te weinig goede voeding, zorg en leermogelijkheden... Lees meer
innovatie

Gemakkelijk en gecontroleerd data delen via IDS

18 mrt '19 - 3 min
Gemakkelijk en gecontroleerd data delen om de concurrentiepositie te versterken – daarvoor kunnen bedrijven terecht bij het Europese ecosysteem International Data... Lees meer
blik op de toekomst

Artificial Intelligence helpt ons kennis wijs toe te passen

20 feb '19 - 4 min
Wijs gebruikmaken van wetenschappelijke kennis kan ons leven aanzienlijk verbeteren. Alleen, in de praktijk doen we dat veel te weinig. TNO onderzoekt hoe we die... Lees meer

VOLG TNO OP SOCIAL MEDIA

blijf op de hoogte van ons laatste nieuws, vacatures en activiteiten

Op TNO.nl maken we gebruik van cookies. De daarin opgeslagen informatie kan bij een volgend bezoek weer naar onze servers teruggestuurd  worden.