blik op de toekomst

Artificial Intelligence: angst, verlangen en toepassing

26 november 2018 • 6 min leestijd

De discussie over kunstmatige intelligentie, ofwel Artificial Intelligence (AI) beweegt zich tussen het verlangen naar slimme machines die ons van dienst zijn en de angst dat we privacy en controle gaan verliezen. Maar wat is het en waarom hebben we het nodig? En wat moet er nog gebeuren om het op werkelijk grote schaal toepasbaar te maken op een veilige en verantwoorde manier?

Wat is AI?

Menselijke intelligentie is het vermogen om te leren, begrijpen, redeneren, plannen en problemen op te lossen. Computerwetenschappers werken al langer aan machines die dat ook kunnen. Dat noemen we kunstmatige intelligentie of artificial intelligence (AI).

Vooral kunstmatig leren (deep learning) heeft zich revolutionair ontwikkeld. Deep learning simuleert met snelle computers een netwerk dat lijkt op onze hersenen. Dat netwerk kan op basis van grote hoeveelheden gegevens patronen en verbanden herkennen, zelfs beter dan mensen dat kunnen. Deze techniek maakt het mogelijk dat je smartphone kan tolken tussen Chinees en Nederlands, dat je een moedervlek beter op kwaadaardigheid kunt beoordelen dan de specialist en dat een camera op Schiphol je gezicht herkent. Door naar veel schaakpartijen te kijken, hebben ‘deep learning’ machines van IBM en Google inmiddels de wereldkampioenen schaken, Go en Jeopardy verslagen. Dit jaar deed een machine het niet slecht in een debat met menselijke top-debaters.

“Deep learning machines kunnen niet redeneren en dus ook niet uitleggen waarom ze een bepaalde keuze hebben gemaakt”

Deep learning machines kunnen razend goed patronen herkennen en die aan acties koppelen, zonder dat ze de onderliggende oorzakelijke verbanden kennen. Ze kunnen niet redeneren en dus ook niet uitleggen waarom ze een bepaalde keuze hebben gemaakt.

Redeneervermogen

Toch moeten autonome intelligente machines, zoals zelfrijdende auto’s, zorgrobots en virtuele dokters of advocaten, afwegingen maken over de wereld om hen heen, onder andere over wettelijke en ethische kaders. Bovendien moeten ze over zichzelf kunnen redeneren en hun gedrag kunnen uitleggen. Daarvoor is (symbolisch) redeneervermogen nodig, een belangrijke tweede tak van AI.

De combinatie van deep learning en redeneervermogen noemen we hybride kunstmatige intelligentie. Het is een combinatie die uiteindelijk kan leiden tot een niveau van intelligentie, dat even hoog of zelfs hoger ligt dan dat van de mens.

Verlangen naar AI

AI zal vrijwel alle sociale en economische aspecten van onze samenleving gaan veranderen. Het World Economic Forum spreekt van de Vierde Industriële revolutie, waarin fysieke, digitale en biologische systemen vergaand versmelten. De United Nations conferentie AI for Good Global Summit identificeerde een veelheid aan veilige, betrouwbare toepassingen van AI, die de kwaliteit en de duurzaamheid van onze planeet verbeteren. Voorbeelden zijn het gericht inzetten van rampenbestrijding op basis van satellietbeelden, slimme steden waarin de burger centraal staat en universele basisgezondheidszorg.

“In de gezondheidszorg is het ronduit noodzakelijk om de ontoereikende menselijke zorgcapaciteit en expertise te compenseren met zorgrobots en met AI-diagnoses”

Zo wordt steeds meer ‘smart’: gezondheidszorg, mobiliteit, steden en industrieën. En niet alleen omdat het kan. In de gezondheidszorg is het ronduit noodzakelijk om de ontoereikende menselijke zorgcapaciteit en expertise te compenseren met zorgrobots en met AI-diagnoses en om behandelingen te personaliseren en goedkoper te maken. In de energiesector is het met AI managen van vraag, aanbod, conversie en opslag in energienetwerken nodig om tot een duurzaam energiesysteem te komen. Onze logistiek en mobiliteit en het onderhoud van bruggen en dijken kunnen we alleen met complexe systemen optimaliseren. Zo levert AI ons dieper inzicht in complexiteit, vergaande personalisatie van diensten en een betere match tussen vraag en aanbod.

En dan is er nog de ‘smart human’. Die heeft met AI verbeterde zintuigen en kan bijvoorbeeld zien zonder ogen. Versterkte exoskeletten geven zijn of haar ledematen meer kracht, terwijl e-coaches het denkvermogen en de ethische vaardigheden verbeteren.

Angst voor AI

Hoewel AI de mens inmiddels overtreft in nauwkeurigheid van medische diagnoses, bijvoorbeeld voor diverse soorten kanker, blijven beredeneerde adviezen voor de behandeling van patiënten en de acceptatie daarvan een uitdaging. Het lukt AI nauwelijks om een voor mensen begrijpelijke uitleg te geven van het hoe en waarom van keuzes. Voor het aantoonbaar voldoen aan regelgeving geldt hetzelfde.

Dat staat acceptatie in de weg. Zo heeft Uber experimenten met zelfrijdende taxi’s opgeschort, omdat zo’n taxi in botsing kwam met een door een mens bestuurde auto en het besturingssysteem niet kon uitleggen hoe dat kon gebeuren. Uitlegbaarheid van keuzes en beheersbaarheid binnen wettelijke en ethische kaders, zijn belangrijke voorwaarden voor het vertrouwen in en de acceptatie van AI. Uitlegbaarheid en beheersbaarheid noemen we samen ‘meaningful control’.

AI kan bovendien ook botsen met privacy. Enerzijds verlangen we naar personalisatie van gezondheidszorg, vervoer, veiligheid of entertainment en daarvoor moeten AI-systemen leren van zeer grote hoeveelheden persoonlijke gegevens (big data). Anderzijds vrezen we het manipuleren van onze mening op basis van big data. Een voorbeeld is de beïnvloeding van de Amerikaanse presidentsverkiezingen door Cambridge Analytica.

“Zonder uitlegbaarheid en beheersbaarheid van AI en zonder behoud van privacy, kunnen we het potentieel van AI niet benutten”

Zonder uitlegbaarheid en beheersbaarheid van AI en zonder behoud van privacy, kunnen we het potentieel van AI niet benutten. Dat is een taak voor overheid en bedrijfsleven. We zien daarbij grote verschillen tussen de vooral economisch gedreven koploper Verenigde Staten, het sterk overheidsgestuurde China en het naar verantwoorde AI zoekende Europa. De European Group on Ethics in Science and New Technologies beveelt menselijke waardigheid, mensenrechten en ethische principes aan als richtlijnen voor de ontwikkeling van AI-toepassingen.

Hoe kan AI leren van big data, met behoud van privacy?

De EU heeft privacywetgeving voor data (GDPR) ingevoerd en dat is een groot goed. Diezelfde GDPR kan ook een rem vormen op de ontwikkeling van AI, omdat big data de grondstof vormt voor AI. Daarom moeten we investeren in oplossingen waarmee we kunnen leren van big data met behoud van privacy. Oplossingen bestaan, naast regulering, uit nieuwe business modellen en technologie die privacy mogelijk maakt. TNO werkt hard aan het ontwikkelen van de technologie die daarvoor nodig is.

Voorbeelden van technologieën die TNO ontwikkelt, zijn ‘privacy preserving federated computing’ (vergelijken van data terwijl die versleuteld blijven) en ‘responsible AI’ (systemen die zelf ethische afwegingen kunnen maken over datagebruik en dat ook kunnen uitleggen). Nieuwe business modellen om data te delen en ervan te leren met behoud van privacy, zijn onder andere ontwikkeld in het publiek private innovatieprogramma ‘Smart Dairy Farming’ en voor een gepersonaliseerde adviessystemen voor lifestyle gerelateerde ziektes zoals Diabetes II (‘Health Data Cooperative’).

Hoe beheers je AI binnen wettelijke en ethische kaders (meaningful control)?

Autonome AI-systemen moeten net als de mens functioneren binnen wettelijke en ethische kaders. Vanwege individuele en culturele verschillen in die kaders, kun je dat niet overlaten aan de ontwerpers, leveranciers of eigenaren.

Hier ligt een taak voor de vertegenwoordigers van de samenleving: de overheid. Maar als die alleen voorschrijft wat AI mag en moet doen, zal het potentieel van AI beperkt blijven tot wat mensen nu ook al kunnen. Het werken met doelfuncties, die de intelligentie van AI scheiden van het vermogen tot ethisch handelen, kan dat ondervangen. Daarmee laat je het AI-systeem vrij om een effectievere aanpak te kiezen dan mensen kunnen bedenken en kan het de gespecificeerde doelen realiseren binnen door ons bepaalde kaders.

“Intelligente camera’s kunnen de gewenste afwegingen maken tussen veiligheidsrisico’s en privacy, bijvoorbeeld bij het onthullen van de identiteit van iemand die op straat onwel wordt”

Op die manier kunnen intelligente camera’s de gewenste afwegingen maken tussen het signaleren van veiligheidsrisico’s en het borgen van privacy, bijvoorbeeld bij het onthullen van de identiteit of de medische gegevens van iemand die op straat onwel wordt. Zelfrijdende auto’s kunnen gericht kiezen tussen het ontwijken van een voetganger en de risico’s voor de inzittenden. Dat laatste vraagt om het kwantitatief waarderen van de uitkomsten van de keuzes die AI maakt. Is het leven van een inzittende meer waard dan dat van de voetganger en hoe wegen menselijke bestuurders dat eigenlijk af?

De ontwikkeling van redenerende systemen is een uitdaging voor wetenschap en industrie. Het specificeren van doelen en het kwantificeren van utiliteit – wat is de waarde van de verschillende uitkomsten? – is een taak voor de overheid. Juist Europa en Nederland zijn qua systeemdenken, multidisciplinaire benadering en innovatie goed gepositioneerd om tot meaningful control te komen en daarmee het volle potentieel van AI te benutten.

Samen aan de slag

Samen met publiek-private partners werkt TNO aan privacy-oplossingen en meaningful control om het potentieel van AI te ontsluiten. We passen AI toe in de zorg (personalised health), de energiesector (smart grids), mobiliteit (cooperative driving), veiligheid (dark web interventies), infrastructuur (predictive maintenance), industrie (smart industries) en circulaire economie (life-cycle complexity). De combinatie van multidisciplinariteit en systeemdenken maakt TNO internationaal onderscheidend.

Meer weten over de toekomst van AI? Houd onze website in de gaten. Het boek ‘Homo Deus’ van Yuval Noah Harari biedt ook goede informatie.

Meer weten?

Wil je verder praten over Artificial Intelligence en onze toepassingen? Neem dan contact op met Peter Werkhoven.

Neem contact op
blik op de toekomst

Koningsnacht op afstand

26 apr '19 - 3 min
Koningsnacht 2035. Met vrienden een rondje vrijmarkt in Utrecht of langs de Haagse pleinen. Genieten van de muziek en proosten op het leven. Eén groot verschil:... Lees meer
innovatie

Een snellere uitrol van flexibele displays dankzij SALDtech

27 mrt '19 - 3 min
Ja, er bestaan al telefoons met flexibele displays. Maar het kost momenteel wel veel tijd en geld om beeldschermen met de gewenste buigbaarheid te produceren. Ondertussen... Lees meer
verhaal van de klant

"Met MPC maken we marketing software privacyvriendelijk"

22 mrt '19 - 3 min
Het Nederlandse bedrijf Flytxt ontwikkelt voor ruim honderd ondernemingen in vijftig landen softwareproducten voor marketing automatisering met machine learning... Lees meer
innovatie

D-score: wereldwijd inzicht in de ontwikkeling van kinderen

20 mrt '19 - 2 min
Wereldwijd zijn er nog altijd veel kinderen die in hun eerste vijf levensjaren een achterstand oplopen, doordat ze te weinig goede voeding, zorg en leermogelijkheden... Lees meer
innovatie

Gemakkelijk en gecontroleerd data delen via IDS

18 mrt '19 - 3 min
Gemakkelijk en gecontroleerd data delen om de concurrentiepositie te versterken – daarvoor kunnen bedrijven terecht bij het Europese ecosysteem International Data... Lees meer

VOLG TNO OP SOCIAL MEDIA

blijf op de hoogte van ons laatste nieuws, vacatures en activiteiten

Op TNO.nl maken we gebruik van cookies. De daarin opgeslagen informatie kan bij een volgend bezoek weer naar onze servers teruggestuurd  worden.