blik op de toekomst

Hoe kunnen we Artificial Intelligence gaan vertrouwen?

8 januari 2019 • 4 min leestijd

Het toekomstbeeld is lonkend: kunstmatige intelligentie, ook wel Artificial Intelligence (AI) genoemd, zal ons leven aangenamer en eenvoudiger maken. Toch heerst er wantrouwen. Wat doen de algoritmes achter AI eigenlijk en wie controleert dat? TNO onderzoekt wat er nodig is om vertrouwen in AI te krijgen: “Het begint met transparantie, uitlegbaarheid en sprekende resultaten.”

“Hoe ga je om met ziekte?”, vraagt TNO-onderzoeker en Integrator Healthy Living Heleen Wortelboer. “Ga je de symptomen bestrijden of pak je de oorzaak aan?” Ze beantwoordt de vraag zelf: “In acute gevallen kies je voor het eerste. Wil je de oorzaak aanpakken, met name bij chronische welvaartsaandoeningen, dan moet je weten wat er speelt en heeft gespeeld. Dat vereist inzicht in het probleem en een uitgebreide dataset, die je in samenhang kunt analyseren. Dat is precies waarvoor AI geschikt is.”

Diabetes en burn-out

Wortelboer richt zich vooral op chronische stress, overgewicht en diabetes type2: “Daarover hebben we veel kennis en er zijn voldoende fysiologische gegevens. Voor sociale factoren, zoals de huiselijke omstandigheden of de werkomgeving, ligt dat moeilijker. Toch moeten we die ook meenemen in het onderzoek naar mogelijke oorzaken en behandelingen van deze aandoeningen. Denk maar aan iemand met een burn-out, die weer aan het werk gaat: als daar niets is veranderd, dan weet je meteen al dat het opnieuw misgaat.”

“Met de data die TNO krijgt via samenwerkingen kunnen we AI-systemen voeden die een gepersonaliseerd gezondheidsadvies opleveren”

Voor een gericht gezondheidsadvies zijn veel en relevante data nodig. Wortelboer: “Die data krijgt TNO in zogeheten field labs, samenwerkingen met bedrijven, behandelcentra of patiëntenverenigingen. De data kunnen daarin veilig en anoniem worden gedeeld. Met die data kunnen we AI-systemen voeden, die een gepersonaliseerd gezondheidsadvies opleveren. Voorlopig moet dat nog wel in overleg met zorgprofessionals worden getoetst.”

Burger blijft eigenaar van de data

Zowel het verkrijgen van data als de acceptatie van AI staat of valt met vertrouwen, zegt Wortelboer: “Daarom moet de burger zelf bepalen wat er met zijn of haar gegevens gebeurt. Nationale initiatieven, bijvoorbeeld over het delen van persoonlijke gezondheidsdata met behoud van privacy, helpen daarbij. Verder moeten we ons blijven afvragen of we niet meer gegevens verzamelen dan nodig is en of de adviezen bruikbare resultaten opleveren.”

Een mooie stap in de goede richting is Secure Multi-Party Computation, een innovatieve manier waarin meerdere partijen gebruik kunnen maken van dezelfde data, zonder dat deze data wordt gedeeld of uitgewisseld.

Transparentie

“Om vertrouwen op te bouwen, moet bovendien transparant zijn hoe AI-systemen tot conclusies of adviezen komen”, zegt Stephan Raaijmakers, die gespecialiseerd is in de technische uitlegbaarheid van AI. Hij noemt diverse manieren om vertrouwen te kweken via uitlegbaarheid: “Als AI een analyse onderbouwt met een verwijzing naar de voorbeelddata waar het van geleerd heeft, begrijp je beter waar conclusies vandaan komen. Je kunt ook laten zien op welke deelaspecten van de data AI speciaal heeft gelet bij het formuleren van conclusies of aanbevelingen.’’

“Je kunt AI zien als die slimme collega die dingen doet die hij maar deels kan uitleggen. Die ga je op den duur vertrouwen, mits hij nauwkeurig, consistent en ethisch werkt”

Uitlegbaarheid is een belangrijke factor die vertrouwen en acceptatie bepaalt, zegt Raaijmakers. Daarnaast spelen nauwkeurigheid, herhaalbaarheid en ethiek een rol: “Je zou bepaalde vormen van AI kunnen zien als die slimme collega die dingen doet die hij maar ten dele aan je kan uitleggen. Die ga je op den duur vertrouwen, mits hij nauwkeurig, consistent en ethisch werkt.” In veel situaties blijft uitleg nodig: “In de gezondheidszorg bijvoorbeeld of bij het duiden van door een algoritme geproduceerde analyses in een strafzaak. Bovendien moet helder zijn wie uiteindelijk beslist: de mens of het systeem.”

AI geeft duidelijkheid

Uitlegbare AI staat hoog op de internationale onderzoeksagenda, zegt Raaijmakers. “Het is allereerst een kwestie van techniek: hoe openen we de black box van een AI-algoritme? We weten verder nog weinig van de ontvanger van de uitleg, de mens. Wanneer komt uitleg over? Heb je gepersonaliseerde uitleg nodig om de conclusies van AI te accepteren?”

TNO gaat experimenteel toetsen wat een goede en effectieve uitleg is, onder andere in het medisch domein, zegt Wortelboer: “Gepersonaliseerde leefstijladviezen voor mensen met een ongezonde leefstijl en diabetes type2 zijn de focus.”

Blijf zelf denken!

Uiteindelijk kunnen AI en de mens hecht gaan samenwerken. Raaijmakers: “AI helpt ons met gericht advies en wij verbeteren het systeem weer met bruikbare data en feedback. Zo wordt AI op de lange termijn een betrouwbare collega voor de mens en kun je met wat fantasie uiteindelijk zelfs van een symbiotische relatie spreken.”

“Blijf vooral zelf nadenken en het systeem waar nodig tegenspreken. Daarvan leren beide”

Dat betekent ook dat gebruikers niet alle adviezen van een AI-systeem klakkeloos moeten aannemen. Raaijmakers: “Blijf vooral zelf nadenken en het systeem waar nodig tegenspreken. Daarvan leren beide.”

Wetgeving in beweging

Ondanks dat leerproces kunnen er ongelukken gebeuren, zoals in maart vorig jaar met een zelfrijdende auto van Uber in de Verenigde Staten. “In Nederland zou in beginsel de bestuurder aansprakelijk zijn”, zegt TNO-juriste Somayeh Djafari: “Maar als het systeem niet goed functioneert, kan dat ook de producent zijn. Uiteindelijk moet de rechter of de wetgever duidelijkheid geven.”

Overigens bleek onlangs dat het dodelijke ongeluk met de zelfrijdende auto van Uber geen fout van het systeem was. De toezichthouder in de auto, die moet ingrijpen als het systeem faalt, zat een video te kijken en lette niet op. Ook hadden de engineers de noodstopfunctie uitgeschakeld. Dat systeem had de fietser al acht seconden ‘gezien’, maar kon niet ingrijpen.

Experimenteerwet

Wat dit soort cases voor AI gaan betekenen, is nog onduidelijk. Djafari: “Een voorbeeld is de ‘Experimenteerwet zelfrijdende auto’s’, die het mogelijk maakt om te experimenteren met auto’s zonder bestuurder. De Eerste Kamer heeft die wet aangenomen en nu is het wachten op de ondertekening en inwerkingtreding.”

De wetgever gaat er behoedzaam mee om. Djafari: ‘Uiteindelijk willen we een bijdrage leveren aan het maatschappelijk debat over kansen, risico’s, beperkingen en voorwaarden van de inzet van AI.  Experimentele wetgeving kan een instrument zijn voor het vinden van een balans tussen het belang van innoveren en andere publieke belangen zoals rechtsbescherming, gelijkheid, privacy en veiligheid.’

Meer weten?

Wil je verder praten over Artificial Intelligence en onze toepassingen? Neem dan contact op met Stephan Raaijmakers.

Contact

Dag van de uitvinder

9 nov '21 - 5 min
Bij TNO werken onze uitvinders al sinds 1932 aan de uitvindingen en innovaties van morgen. In het kader van de Dag van de Uitvinder staan we stil bij enkele TNO... Lees meer
dossier

Creëer waarde door data te delen: 4 trends voor ondernemend Nederland

5 nov '21 - 1 min
We genereren steeds meer data: van personen, bedrijven en overheden. Tot nu toe blijft veel van deze data onbenut. Dat is niet alleen zonde, maar vormt ook een bedreiging... Lees meer
innovatie

TNO’ers bestrijden de stikstofcrisis met programma Brains4Nitrogen

15 okt '21 - 4 min
Na het succes van het Brains4corona-programma, waarin TNO zich richtte op de aanpak van het coronavirus in 2020, is de organisatie nu van plan meer van deze 'Brains4x'-uitdagingen... Lees meer
innovatie

Met Brains4x van TNO versnelde innovatie op maatschappelijke uitdagingen in Nederland

15 okt '21 - 2 min
Van de coronapandemie tot aan de stikstofcrisis: Nederland staat voor grote uitdagingen. Na het succes van Brains4corona en Brains4nitrogen gaat TNO vaker challenges... Lees meer
blik op de toekomst

Cybersecurity én DevSecOps naar een hoger niveau: zo werken deze banken en verzekeraar samen

22 jul '21 - 4 min
Banken en verzekeraars zijn continu bezig hun beveiligingsmaatregelen naar een hoger niveau te tillen. Tot voor kort wisselden de verantwoordelijke cybersecurityspecialisten... Lees meer