dossier

Bestaat ethisch verantwoorde Artificial Intelligence?

21 januari 2019 • 4 min leestijd

Hoe benutten we de voordelen van Artificial Intelligence (AI), terwijl we tegelijkertijd onze wetten en ethische principes respecteren? TNO werkt aan verschillende manieren om dat te bereiken: “We lopen wereldwijd voorop.”

Meer weten?

Wil je verder praten over Artificial Intelligence en onze toepassingen? Neem dan contact op met Leon Kester.

Contact opnemen

Over AI doen verhalen de ronde die weinig met de realiteit te maken hebben, zegt TNO’er Leon Kester, die zich bezighoudt met de relatie tussen AI en ethiek: “Veel discussies over AI verzanden in spraakverwarring of emoties. Je komt ook verhalen tegen over AI-systemen die volledig zonder tussenkomst van de mens opereren en de vraag of AI geen status moet krijgen die vergelijkbaar is met die van de mens.”

Intelligenter dan mensen

Onjuist of overdreven, vindt Kester: “Ik zie AI als een spiegel die ons confronteert met onze beperkingen als mens. Dat dwingt ons tot nadenken over de vraag wat we gezamenlijk met AI willen bereiken en over de grenzen die we daarbij willen stellen.”

“Bovendien zijn er toepassingen die wij in Europa ronduit ongewenst vinden, zoals het onder controle houden van burgers door de overheid”

Er zijn wel bedreigingen: “De intelligentie van AI-systemen overtreft de algemene intelligentie van mensen nog niet, maar dat zal volgens de meeste experts op niet al te lange termijn gaan gebeuren. Om die ontwikkeling beheersbaar te houden, moet er dringend meer actie komen, met name op het gebied van ethiek. Er zijn toepassingen die wij in Europa ronduit ongewenst vinden, zoals het onder controle houden van burgers door de overheid.”

Zorgen over bestaande toepassingen

We moeten zorgen dat AI doet wat wij mensen willen en dat liefst in het belang van de hele maatschappij: “Dat kun je niet overlaten aan specialisten die alleen hun deelgebied overzien of aan belanghebbenden, zoals bedrijven die verdienen aan AI. Het vraagt om een structurele aanpak en dat is een zaak voor ons allemaal.”

TNO’er Albert Huizing werkt op hetzelfde vakgebied als Kester aan toepassingen op kortere termijn: “AI is nog lang niet zo veelzijdig als mensen. Het is een technologie die binnen afzienbare tijd erg goed wordt op bepaalde deelgebieden, denk aan spraakherkenning en zelfrijdende auto’s. Op dit moment zouden we ons daarom vooral zorgen moeten maken over bestaande AI-toepassingen, bijvoorbeeld via de social media. Die beïnvloeden ons leven immers ook nu al sterk. Van de ethische standaarden die daarbij worden aangehouden, weten we als gebruikers vaak onvoldoende.”

Ethische AI

Er zijn vier manieren om AI ethisch verantwoord toe te passen, zeggen Kester en Huizing. De eerste is dat een mens altijd toezicht houdt op AI. Helaas is dat vaak niet werkbaar, omdat mensen de grote stroom van informatie niet aan kunnen en te langzaam denken. Ook zelfregulatie door AI-fabrikanten, de tweede manier, werkt niet. Onder meer omdat commerciële belangen hun blik op de ethiek van een toepassing vaak vertroebelen.

“Een bewakingsrobot kun je meegeven dat hij geen mensen mag verwonden, maar dat is een belemmering als die robot een aanslag moet voorkomen”

De derde manier is een ontwerp, waarbij ethiek in het AI-systeem is ingebouwd. Dat werkt beter, zegt Kester: “Maar je houdt daarmee geen rekening met uitzonderingen die zich in de praktijk kunnen voordoen. Een bewakingsrobot kun je meegeven dat hij geen mensen mag verwonden. Maar dat is een belemmering als die robot een aanslag moet voorkomen.”

Model van de wereld

Dan blijft de vierde mogelijkheid over: ethische doelfuncties. Kester: “Daarbij krijgt een AI-systeem de waarden mee die de maatschappij van belang vindt om mee te wegen in een advies of beslissing. Zo kun je de rekenkracht van de computer benutten om de beste uitkomst te berekenen en blijven ethisch verantwoorde uitkomsten gewaarborgd.” Een drone die wordt ingezet voor militaire doeleinden kan dan zo goed mogelijk kiezen tussen twee in principe ongewenste alternatieven.

“Zo kun je de rekenkracht van de computer benutten om de beste uitkomst te berekenen en blijven ethisch verantwoorde uitkomsten gewaarborgd”

Huizing maakt nog wel kanttekeningen: “Ethische doelfuncties verkeren in de ontwerpfase, de benodigde algoritmes zijn nog onvolledig. Bovendien moeten we overeenstemming bereiken over de ethische waarden die we gezamenlijk nastreven. Een hele opgave. En AI moet de gevolgen voor een compleet systeem meewegen. Neem een reisadvies: als iedereen hetzelfde advies volgt, kan dat juist leiden tot grote vertragingen op het spoor.”

Om alle gevolgen te overzien, moet een AI-systeem dus beschikken over een model van zo’n systeem, inclusief zichzelf. Huizing: “Met de kennis die in zo’n model is verwerkt, kan AI alle relevante factoren meewegen. TNO werkt hard aan de realisatie van ethische doelfuncties en de bijbehorende modellen.”

Onze privacy staat op het spel

En hoe zit het dan met de privacybescherming? TNO’er Cor Veenman is daarin gespecialiseerd: “Bij privacy gaat het in de eerste plaats om het anonimiseren van data. Maar daarmee ben je er niet. Als je bijvoorbeeld over iemands bewegingsgegevens beschikt, dan vind je al snel een uniek patroon dat verwijst naar die persoon. Combineer dat met andere data en je kunt nog veel meer te weten komen. TNO heeft een aanpak ontwikkeld, waarmee je data zodanig kunt voorbewerken dat individuen onherkenbaar blijven, terwijl gericht zoeken naar groepskenmerken mogelijk blijft.”

“Bias is de situatie waarin AI ongewenste conclusies trekt uit gegevens uit het verleden”

Is AI wel objectief?

Ook ongewenste biases kunnen nadelige gevolgen hebben voor individuen. Veenman: “Bias is de situatie waarin AI ongewenste conclusies trekt uit gegevens uit het verleden. TNO ontwikkelt eerlijke AI, die bijvoorbeeld etniciteit geen rol meer laat spelen bij het voorspellen van geschiktheid voor een baan.”

Veenman noemt ook een voorbeeld van fair en privacy-vriendelijk onderzoek: “Onderzoek naar belastingfraude bijvoorbeeld. Met onze aanpak gebruik je alleen wettelijk geoorloofde groepskenmerken en kunnen individuen niet worden herleid. Zo werkt TNO aan manieren om de voordelen van AI te benutten, zonder ongewenste bijeffecten. Ook met deze aanpak lopen we wereldwijd voorop.”

VOLG TNO OP SOCIAL MEDIA

blijf op de hoogte van ons laatste nieuws, vacatures en activiteiten

Op TNO.nl maken we gebruik van cookies. De daarin opgeslagen informatie kan bij een volgend bezoek weer naar onze servers teruggestuurd  worden.