blik op de toekomst

Artificial Intelligence: angst, verlangen en toepassing

26 november 2018 • 6 min leestijd

De discussie over kunstmatige intelligentie, ofwel Artificial Intelligence (AI) beweegt zich tussen het verlangen naar slimme machines die ons van dienst zijn en de angst dat we privacy en controle gaan verliezen. Maar wat is het en waarom hebben we het nodig? En wat moet er nog gebeuren om het op werkelijk grote schaal toepasbaar te maken op een veilige en verantwoorde manier?

Wat is AI?

Menselijke intelligentie is het vermogen om te leren, begrijpen, redeneren, plannen en problemen op te lossen. Computerwetenschappers werken al langer aan machines die dat ook kunnen. Dat noemen we kunstmatige intelligentie of artificial intelligence (AI).

Vooral kunstmatig leren (deep learning) heeft zich revolutionair ontwikkeld. Deep learning simuleert met snelle computers een netwerk dat lijkt op onze hersenen. Dat netwerk kan op basis van grote hoeveelheden gegevens patronen en verbanden herkennen, zelfs beter dan mensen dat kunnen. Deze techniek maakt het mogelijk dat je smartphone kan tolken tussen Chinees en Nederlands, dat je een moedervlek beter op kwaadaardigheid kunt beoordelen dan de specialist en dat een camera op Schiphol je gezicht herkent. Door naar veel schaakpartijen te kijken, hebben ‘deep learning’ machines van IBM en Google inmiddels de wereldkampioenen schaken, Go en Jeopardy verslagen. Dit jaar deed een machine het niet slecht in een debat met menselijke top-debaters.

“Deep learning machines kunnen niet redeneren en dus ook niet uitleggen waarom ze een bepaalde keuze hebben gemaakt”

Deep learning machines kunnen razend goed patronen herkennen en die aan acties koppelen, zonder dat ze de onderliggende oorzakelijke verbanden kennen. Ze kunnen niet redeneren en dus ook niet uitleggen waarom ze een bepaalde keuze hebben gemaakt.

Redeneervermogen

Toch moeten autonome intelligente machines, zoals zelfrijdende auto’s, zorgrobots en virtuele dokters of advocaten, afwegingen maken over de wereld om hen heen, onder andere over wettelijke en ethische kaders. Bovendien moeten ze over zichzelf kunnen redeneren en hun gedrag kunnen uitleggen. Daarvoor is (symbolisch) redeneervermogen nodig, een belangrijke tweede tak van AI.

De combinatie van deep learning en redeneervermogen noemen we hybride kunstmatige intelligentie. Het is een combinatie die uiteindelijk kan leiden tot een niveau van intelligentie, dat even hoog of zelfs hoger ligt dan dat van de mens.

Verlangen naar AI

AI zal vrijwel alle sociale en economische aspecten van onze samenleving gaan veranderen. Het World Economic Forum spreekt van de Vierde Industriële revolutie, waarin fysieke, digitale en biologische systemen vergaand versmelten. De United Nations conferentie AI for Good Global Summit identificeerde een veelheid aan veilige, betrouwbare toepassingen van AI, die de kwaliteit en de duurzaamheid van onze planeet verbeteren. Voorbeelden zijn het gericht inzetten van rampenbestrijding op basis van satellietbeelden, slimme steden waarin de burger centraal staat en universele basisgezondheidszorg.

“In de gezondheidszorg is het ronduit noodzakelijk om de ontoereikende menselijke zorgcapaciteit en expertise te compenseren met zorgrobots en met AI-diagnoses”

Zo wordt steeds meer ‘smart’: gezondheidszorg, mobiliteit, steden en industrieën. En niet alleen omdat het kan. In de gezondheidszorg is het ronduit noodzakelijk om de ontoereikende menselijke zorgcapaciteit en expertise te compenseren met zorgrobots en met AI-diagnoses en om behandelingen te personaliseren en goedkoper te maken. In de energiesector is het met AI managen van vraag, aanbod, conversie en opslag in energienetwerken nodig om tot een duurzaam energiesysteem te komen. Onze logistiek en mobiliteit en het onderhoud van bruggen en dijken kunnen we alleen met complexe systemen optimaliseren. Zo levert AI ons dieper inzicht in complexiteit, vergaande personalisatie van diensten en een betere match tussen vraag en aanbod.

En dan is er nog de ‘smart human’. Die heeft met AI verbeterde zintuigen en kan bijvoorbeeld zien zonder ogen. Versterkte exoskeletten geven zijn of haar ledematen meer kracht, terwijl e-coaches het denkvermogen en de ethische vaardigheden verbeteren.

Angst voor AI

Hoewel AI de mens inmiddels overtreft in nauwkeurigheid van medische diagnoses, bijvoorbeeld voor diverse soorten kanker, blijven beredeneerde adviezen voor de behandeling van patiënten en de acceptatie daarvan een uitdaging. Het lukt AI nauwelijks om een voor mensen begrijpelijke uitleg te geven van het hoe en waarom van keuzes. Voor het aantoonbaar voldoen aan regelgeving geldt hetzelfde.

Dat staat acceptatie in de weg. Zo heeft Uber experimenten met zelfrijdende taxi’s opgeschort, omdat zo’n taxi in botsing kwam met een door een mens bestuurde auto en het besturingssysteem niet kon uitleggen hoe dat kon gebeuren. Uitlegbaarheid van keuzes en beheersbaarheid binnen wettelijke en ethische kaders, zijn belangrijke voorwaarden voor het vertrouwen in en de acceptatie van AI. Uitlegbaarheid en beheersbaarheid noemen we samen ‘meaningful control’.

AI kan bovendien ook botsen met privacy. Enerzijds verlangen we naar personalisatie van gezondheidszorg, vervoer, veiligheid of entertainment en daarvoor moeten AI-systemen leren van zeer grote hoeveelheden persoonlijke gegevens (big data). Anderzijds vrezen we het manipuleren van onze mening op basis van big data. Een voorbeeld is de beïnvloeding van de Amerikaanse presidentsverkiezingen door Cambridge Analytica.

“Zonder uitlegbaarheid en beheersbaarheid van AI en zonder behoud van privacy, kunnen we het potentieel van AI niet benutten”

Zonder uitlegbaarheid en beheersbaarheid van AI en zonder behoud van privacy, kunnen we het potentieel van AI niet benutten. Dat is een taak voor overheid en bedrijfsleven. We zien daarbij grote verschillen tussen de vooral economisch gedreven koploper Verenigde Staten, het sterk overheidsgestuurde China en het naar verantwoorde AI zoekende Europa. De European Group on Ethics in Science and New Technologies beveelt menselijke waardigheid, mensenrechten en ethische principes aan als richtlijnen voor de ontwikkeling van AI-toepassingen.

Hoe kan AI leren van big data, met behoud van privacy?

De EU heeft privacywetgeving voor data (GDPR) ingevoerd en dat is een groot goed. Diezelfde GDPR kan ook een rem vormen op de ontwikkeling van AI, omdat big data de grondstof vormt voor AI. Daarom moeten we investeren in oplossingen waarmee we kunnen leren van big data met behoud van privacy. Oplossingen bestaan, naast regulering, uit nieuwe business modellen en technologie die privacy mogelijk maakt. TNO werkt hard aan het ontwikkelen van de technologie die daarvoor nodig is.

Voorbeelden van technologieën die TNO ontwikkelt, zijn ‘privacy preserving federated computing’ (vergelijken van data terwijl die versleuteld blijven) en ‘responsible AI’ (systemen die zelf ethische afwegingen kunnen maken over datagebruik en dat ook kunnen uitleggen). Nieuwe business modellen om data te delen en ervan te leren met behoud van privacy, zijn onder andere ontwikkeld in het publiek private innovatieprogramma ‘Smart Dairy Farming’ en voor een gepersonaliseerde adviessystemen voor lifestyle gerelateerde ziektes zoals Diabetes II (‘Health Data Cooperative’).

Hoe beheers je AI binnen wettelijke en ethische kaders (meaningful control)?

Autonome AI-systemen moeten net als de mens functioneren binnen wettelijke en ethische kaders. Vanwege individuele en culturele verschillen in die kaders, kun je dat niet overlaten aan de ontwerpers, leveranciers of eigenaren.

Hier ligt een taak voor de vertegenwoordigers van de samenleving: de overheid. Maar als die alleen voorschrijft wat AI mag en moet doen, zal het potentieel van AI beperkt blijven tot wat mensen nu ook al kunnen. Het werken met doelfuncties, die de intelligentie van AI scheiden van het vermogen tot ethisch handelen, kan dat ondervangen. Daarmee laat je het AI-systeem vrij om een effectievere aanpak te kiezen dan mensen kunnen bedenken en kan het de gespecificeerde doelen realiseren binnen door ons bepaalde kaders.

“Intelligente camera’s kunnen de gewenste afwegingen maken tussen veiligheidsrisico’s en privacy, bijvoorbeeld bij het onthullen van de identiteit van iemand die op straat onwel wordt”

Op die manier kunnen intelligente camera’s de gewenste afwegingen maken tussen het signaleren van veiligheidsrisico’s en het borgen van privacy, bijvoorbeeld bij het onthullen van de identiteit of de medische gegevens van iemand die op straat onwel wordt. Zelfrijdende auto’s kunnen gericht kiezen tussen het ontwijken van een voetganger en de risico’s voor de inzittenden. Dat laatste vraagt om het kwantitatief waarderen van de uitkomsten van de keuzes die AI maakt. Is het leven van een inzittende meer waard dan dat van de voetganger en hoe wegen menselijke bestuurders dat eigenlijk af?

De ontwikkeling van redenerende systemen is een uitdaging voor wetenschap en industrie. Het specificeren van doelen en het kwantificeren van utiliteit – wat is de waarde van de verschillende uitkomsten? – is een taak voor de overheid. Juist Europa en Nederland zijn qua systeemdenken, multidisciplinaire benadering en innovatie goed gepositioneerd om tot meaningful control te komen en daarmee het volle potentieel van AI te benutten.

Samen aan de slag

Samen met publiek-private partners werkt TNO aan privacy-oplossingen en meaningful control om het potentieel van AI te ontsluiten. We passen AI toe in de zorg (personalised health), de energiesector (smart grids), mobiliteit (cooperative driving), veiligheid (dark web interventies), infrastructuur (predictive maintenance), industrie (smart industries) en circulaire economie (life-cycle complexity). De combinatie van multidisciplinariteit en systeemdenken maakt TNO internationaal onderscheidend.

Meer weten over de toekomst van AI? Houd onze website in de gaten. Het boek ‘Homo Deus’ van Yuval Noah Harari biedt ook goede informatie.

Meer weten?

Wil je verder praten over Artificial Intelligence en onze toepassingen? Neem dan contact op met Peter Werkhoven.

Neem contact op
blik op de toekomst

Schepen nooit meer van de radar, met dank aan een slim algoritme

16 dec '18 - 4 min
Schepen geven voortdurend hun positie door en ontvangen actuele vaarweginformatie. Dat doen ze via het Automatische Identificatie Systeem (AIS). Maar dat ging niet... Lees meer
blik op de toekomst

“We dreigen wereldwijd achterop te raken”

10 dec '18 - 4 min
Jarenlang ontwikkelde kunstmatige intelligentie of Artificial Intelligence (AI) zich in de luwte. Nu neemt het een grote vlucht en is het actueel geworden. Drie... Lees meer
blik op de toekomst

Podcast Insights #5: Artificial Intelligence – belofte of bedreiging?

3 dec '18 - 1 min
Kunstmatige intelligentie, oftewel Artificial Intelligence, is bezig aan een opmars. Zo zijn er veel handige toepassingen op je mobiel dankzij AI. En nieuwe technieken... Lees meer
blik op de toekomst

Maatwerk 5G-netwerken bouwen voor sectoren

25 okt '18 - 4 min
5G belooft meer data met hogere snelheden en zal de snel digitaliserende samenleving voorzien van waardevolle mobiele toepassingen en diensten. Om die belofte van... Lees meer
blik op de toekomst

Hoe komt je leven in 5G eruit te zien?

8 okt '18 - 2 min
Een kleine technologische revolutie – dat belooft de implementatie van 5G. Het netwerk van de jaren 2020-2030 zal onder meer effect hebben op hoe ons eten wordt... Lees meer

VOLG TNO OP SOCIAL MEDIA

blijf op de hoogte van ons laatste nieuws, vacatures en activiteiten

Op TNO.nl maken we gebruik van cookies. De daarin opgeslagen informatie kan bij een volgend bezoek weer naar onze servers teruggestuurd  worden.