AI in opleiding: FATE ontwikkelt digitale doktersassistent

Ontwikkeling human-centered AI

Jildau Bouwman is Senior Scientist bij TNO en expert op het gebied van systeembiologie, leefstijlgeneeskunde en digitale gezondheidsinterventies. Zij ziet dat de tijd rijp is voor AI-toepassingen in de zorg. “Het systeem barst uit zijn voegen door vergrijzing en personeelstekorten; de techniek is écht klaar om daar iets aan te doen. Het is nog wel een klus om dat te bewijzen, want er is veel koudwatervrees rondom AI.”

TNO-collega Tjeerd Schoonderwoerd, Project Lead Responsible AI bij TNO, onderschrijft dat. “Met FATE kunnen we laten zien waartoe AI in staat is, maar ook hoe je de techniek op een effectieve, veilige en controleerbare manier kunt inzetten.

Het doel van ons project is om de kracht van AI te combineren met de kracht van menselijke kennis en kunde. We stellen onszelf steeds opnieuw de vraag: hoe kan een samenwerking tussen arts en digitale assistent eruitzien? Wat is mogelijk? Wat is nodig?”

Uitdaging ontwikkeling digitale assistent

Het trainen van een digitale doktersassistent vraagt eerst en vooral om data, stelt Bouwman. “Die is er in overvloed, maar de gegevens die zorgaanbieders verzamelen, konden tot voor kort niet of nauwelijks worden gedeeld zonder de privacy van individuen te schaden.

Technisch is dat inmiddels heel goed mogelijk, met o.a. privacy enhancing technologies, maar zorgaanbieders zijn soms nog huiverig om hun data beschikbaar te stellen. Andere uitdagingen zijn het combineren van gegevens die op verschillende manieren zijn opgeslagen en het herkennen van eventuele vooroordelen die in modellen terechtkomen. Ook daar wordt binnen FATE aan gewerkt.”

Misschien wel de grootste uitdaging voor de digitale assistent is het begrijpen van de bredere context van patiënten, zegt Schoonderwoerd. “Als je een AI alleen voedt met data, dan rollen er de raarste adviezen uit. Een mens snapt bijvoorbeeld dat je iemand in een rolstoel niet kan adviseren om meer te gaan hardlopen, maar een computer moet dat leren.

Een ander voorbeeld: in onze case study naar diabetes type 2 heeft de AI geleerd dat vrouwen gevoeliger zijn voor deze ziekte dan mannen, maar we moesten óók duidelijk maken dat dit niet betekent dat je een vrouwelijke patiënt kunt adviseren om in een man te veranderen.”

Bouwman concludeert: “logisch redeneren kun je in principe beter aan een computer overlaten dan aan een mens, maar je moet die logica wel eerst aanleren. Dat is een mooie uitdaging. Als systeembioloog zie ik dat dit vereist dat de kennis die we over het menselijk lichaam hebben in een AI-systeem wordt meegenomen.”

Naast zorgen over privacy, vooroordeel en onmogelijke adviezen is er een nog een belangrijke reden voor de koudwatervrees rondom AI, denkt Bouwman. “Als we onze algoritmes presenteren aan artsen, merken we dat zij niet zozeer geïnteresseerd zijn in de analyse die door de computer gegeven wordt, maar wel in de manier waarop die tot stand komt.

Inzicht in de afwegingen die door een AI gemaakt worden, staat voor hen voorop, want zij zijn en blijven uiteindelijk verantwoordelijk voor de beslissingen die gemaakt worden.”

“Transparantie en de uitlegbaarheid van uitkomsten zijn dus essentiële onderdelen van FATE”, vult Schoonderwoerd aan. “Een digitale doktersassistent moet te allen tijde kunnen uitleggen waar een advies of analyse op is gebaseerd. Niet alleen aan een medisch specialist, maar ook aan patiënten zelf.

Stap voor stap en eerlijk over eventuele onzekerheden. In begrijpelijke taal, afgestemd op het individu. Doe je dat allemaal goed, dat leidt dat tot meer vertrouwen, toegankelijkere zorg en meer autonomie bij patiënten.”

“Binnen FATE hebben we de mogelijkheid om aan alle uitdagingen die we hier noemen tegelijk te werken”, zegt Bouwman. “Eigenlijk ontwerpen we een complete opleiding voor de digitale doktersassistent van de toekomst. Als die afgerond is, kunnen zorgprofessionals en patiënten beschikken over ongeëvenaard goede beslissingsondersteuning.

Want ondanks dat een computer van alles moet leren, ziet een AI met toegang tot grote hoeveelheden kwalitatieve data minder over het hoofd dan de beste artsen. Dat wil niet zeggen dat er nooit meer fouten gemaakt zullen worden, maar details of dwarsverbanden kunnen aanzienlijk sneller en makkelijker worden opgemerkt.”

Juist mensen die op dit moment ondervertegenwoordigd zijn in onderzoekspopulaties, zoals vrouwen en migranten, hebben baat bij de ongekende opmerkzaamheid van AI, denkt Bouwman.

“Dat is precies de reden dat we ons in de eerste grote case study hebben gericht op diabetes type 2. Deze ziekte treft vooral vrouwen, maar de medische wetenschap heeft zich lange tijd alleen op witte mannen gericht. We hebben veel minder kennis over vrouwen, en nog minder kennis over vrouwen van kleur. In onze case study speelt Ayla, een Turkse vrouw van bijna 60 jaar, daarom de hoofdrol. Vrouwen zoals zij hebben hele specifieke doktersadviezen nodig.

Om betere adviezen mogelijk te maken moeten AI-modellen nadrukkelijk worden bijgestuurd en moeten meer specifieke data worden verzameld. Dat betekent dat zorg inclusiever wordt. Beter voor iedereen.”