AI in opleiding: FATE ontwikkelt digitale doktersassistent

Thema:
Artificiële intelligentie
Data sharing
21 mei 2024

De voorspellende kracht van AI kan van grote waarde zijn voor de zorg, bijvoorbeeld om ziektes vroeg op te sporen of zelfs te voorkomen. Maar hoe maak je op een verantwoorde en betrouwbare manier gebruik van die kracht? Die vraag staat centraal in FATE, een project van TNO Appl.AI waarin de digitale doktersassistent van de toekomst wordt opgeleid.

Ontwikkeling human-centered AI

Jildau Bouwman is Senior Scientist bij TNO en expert op het gebied van systeembiologie, leefstijlgeneeskunde en digitale gezondheidsinterventies. Zij ziet dat de tijd rijp is voor AI-toepassingen in de zorg. “Het systeem barst uit zijn voegen door vergrijzing en personeelstekorten; de techniek is écht klaar om daar iets aan te doen. Het is nog wel een klus om dat te bewijzen, want er is veel koudwatervrees rondom AI.”

Tjeerd Schoonderwoerd

“Met FATE kunnen we laten zien waartoe AI in staat is, maar ook hoe je de techniek op een effectieve, veilige en controleerbare manier kunt inzetten."

Tjeerd Schoonderwoerd

Project Lead Responsible AI

TNO-collega Tjeerd Schoonderwoerd, Project Lead Responsible AI bij TNO, onderschrijft dat. “Met FATE kunnen we laten zien waartoe AI in staat is, maar ook hoe je de techniek op een effectieve, veilige en controleerbare manier kunt inzetten.

Het doel van ons project is om de kracht van AI te combineren met de kracht van menselijke kennis en kunde. We stellen onszelf steeds opnieuw de vraag: hoe kan een samenwerking tussen arts en digitale assistent eruitzien? Wat is mogelijk? Wat is nodig?”

Uitdaging ontwikkeling digitale assistent

Het trainen van een digitale doktersassistent vraagt eerst en vooral om data, stelt Bouwman. “Die is er in overvloed, maar de gegevens die zorgaanbieders verzamelen, konden tot voor kort niet of nauwelijks worden gedeeld zonder de privacy van individuen te schaden.

Technisch is dat inmiddels heel goed mogelijk, met o.a. privacy enhancing technologies, maar zorgaanbieders zijn soms nog huiverig om hun data beschikbaar te stellen. Andere uitdagingen zijn het combineren van gegevens die op verschillende manieren zijn opgeslagen en het herkennen van eventuele vooroordelen die in modellen terechtkomen. Ook daar wordt binnen FATE aan gewerkt.”

Misschien wel de grootste uitdaging voor de digitale assistent is het begrijpen van de bredere context van patiënten, zegt Schoonderwoerd. “Als je een AI alleen voedt met data, dan rollen er de raarste adviezen uit. Een mens snapt bijvoorbeeld dat je iemand in een rolstoel niet kan adviseren om meer te gaan hardlopen, maar een computer moet dat leren.

Een ander voorbeeld: in onze case study naar diabetes type 2 heeft de AI geleerd dat vrouwen gevoeliger zijn voor deze ziekte dan mannen, maar we moesten óók duidelijk maken dat dit niet betekent dat je een vrouwelijke patiënt kunt adviseren om in een man te veranderen.”

Bouwman concludeert: “logisch redeneren kun je in principe beter aan een computer overlaten dan aan een mens, maar je moet die logica wel eerst aanleren. Dat is een mooie uitdaging. Als systeembioloog zie ik dat dit vereist dat de kennis die we over het menselijk lichaam hebben in een AI-systeem wordt meegenomen.”

Case study: gepersonaliseerde diabetesinterventies

Ayla is een Turks-Nederlandse vrouw van bijna 60 jaar. Dertig jaar geleden migreerde zij met haar man en dochter naar Nederland. Bij de dokter wordt vastgesteld dat zij een grote kans heeft om diabetes type 2 te ontwikkelen. Om dat te voorkomen, zou zij een advies moeten krijgen dat past bij haar achtergrond, zodat de kans groot is dat zij het kan opvolgen. In de case study van FATE* wordt uiteengezet hoe de digitale doktersassistent Ayla en haar arts daarbij kunnen helpen.

*Let op: deze website is gemaakt voor tablets en laptops en werkt daardoor minder goed op je telefoon.

Inzicht in afwegingen van de digitale doktersassistent

Naast zorgen over privacy, vooroordeel en onmogelijke adviezen is er een nog een belangrijke reden voor de koudwatervrees rondom AI, denkt Bouwman. “Als we onze algoritmes presenteren aan artsen, merken we dat zij niet zozeer geïnteresseerd zijn in de analyse die door de computer gegeven wordt, maar wel in de manier waarop die tot stand komt.

Inzicht in de afwegingen die door een AI gemaakt worden, staat voor hen voorop, want zij zijn en blijven uiteindelijk verantwoordelijk voor de beslissingen die gemaakt worden.”

“Transparantie en de uitlegbaarheid van uitkomsten zijn dus essentiële onderdelen van FATE”, vult Schoonderwoerd aan. “Een digitale doktersassistent moet te allen tijde kunnen uitleggen waar een advies of analyse op is gebaseerd. Niet alleen aan een medisch specialist, maar ook aan patiënten zelf.

Stap voor stap en eerlijk over eventuele onzekerheden. In begrijpelijke taal, afgestemd op het individu. Doe je dat allemaal goed, dat leidt dat tot meer vertrouwen, toegankelijkere zorg en meer autonomie bij patiënten.”

Inclusieve zorg met hulp van AI

“Binnen FATE hebben we de mogelijkheid om aan alle uitdagingen die we hier noemen tegelijk te werken”, zegt Bouwman. “Eigenlijk ontwerpen we een complete opleiding voor de digitale doktersassistent van de toekomst. Als die afgerond is, kunnen zorgprofessionals en patiënten beschikken over ongeëvenaard goede beslissingsondersteuning.

Want ondanks dat een computer van alles moet leren, ziet een AI met toegang tot grote hoeveelheden kwalitatieve data minder over het hoofd dan de beste artsen. Dat wil niet zeggen dat er nooit meer fouten gemaakt zullen worden, maar details of dwarsverbanden kunnen aanzienlijk sneller en makkelijker worden opgemerkt.”

Juist mensen die op dit moment ondervertegenwoordigd zijn in onderzoekspopulaties, zoals vrouwen en migranten, hebben baat bij de ongekende opmerkzaamheid van AI, denkt Bouwman.

“Dat is precies de reden dat we ons in de eerste grote case study hebben gericht op diabetes type 2. Deze ziekte treft vooral vrouwen, maar de medische wetenschap heeft zich lange tijd alleen op witte mannen gericht. We hebben veel minder kennis over vrouwen, en nog minder kennis over vrouwen van kleur. In onze case study speelt Ayla, een Turkse vrouw van bijna 60 jaar, daarom de hoofdrol. Vrouwen zoals zij hebben hele specifieke doktersadviezen nodig.

Om betere adviezen mogelijk te maken moeten AI-modellen nadrukkelijk worden bijgestuurd en moeten meer specifieke data worden verzameld. Dat betekent dat zorg inclusiever wordt. Beter voor iedereen.”

Meer weten over de mogelijkheden van datadeling in de zorg?

Laat je inspireren

47 resultaten, getoond 1 t/m 5

TNO-blik op 2030: Digitale privacy en veiligheid voor iedereen

Informatietype:
Insight
20 september 2024
Privacy en (cyber)veiligheid zijn hoekstenen van onze digitale maatschappij. Met slimme innovaties als SSI-technologie kunnen we ervoor zorgen dat burgers voor 2030 zorgeloos online gegevens uitwisselen.

Nieuwe richtlijnen TNO over aanleveren emissiedata voor effectief toezicht stalvergunningen

Informatietype:
Nieuws
9 juli 2024

Data spaces software certificatie

Informatietype:
Nieuws
13 maart 2024

Bedrijven en kennisinstellingen slaan handen ineen voor ontwikkeling slimme landbouwrobots

Informatietype:
Nieuws
6 maart 2024

Data-doorbraak dwingt zorg tot actie

Informatietype:
Insight
6 februari 2024