Impact | Besluitvorming tussen mens en AI verbeteren in de gezondheidszorg

De komende weken introduceren de genomineerden voor de Ben Feringa Impact Award 2025 zichzelf en hun impactvolle onderzoek of project. De winnaars worden 13 mei bekend gemaakt. Deze week: Andra Cristiana Minculescu met haar research project over het verbeteren van menselijke en AI besluitvorming in de gezondheidszorg.

Wie ben je?

Ik ben Andra Cristiana Minculescu en ik heb recent de master Kunstmatige Intelligentie aan de Faculty of Science and Engineering afgerond. Ik heb een grote passie voor creative problem-solving en het overbruggen van de kloof tussen wetenschappelijk onderzoek en impact in de praktijk. 

Kun je uitleggen wat je onderzoek inhoudt? 

Het onderzoeksproject dat ik deed bij TNO ging over een grote uitdaging binnen medische AI: ook al zijn AI-systemen zeer nauwkeurig bij taken zoals het classificeren van afbeeldingen, toch worden ze terughoudend gebruikt. Dit komt omdat de systemen binnen de klinische workflow niet effectief kunnen communiceren met menselijke experts, waardoor er geen betrouwbare diagnose kan worden gesteld. Dat beperkt hun toepassingsmogelijkheid in de medische context in de praktijk. 

Ik heb een kader ontwikkeld om de besluitvorming in de dermatopathologie te ondersteunen, specifiek tijdens een Mohs-operatie bij huidkanker. Dit kader stimuleert de interactie tussen de arts en het AI-systeem, waarbij beiden hun beredenering delen terwijl ze meerduidige weefselmonsters classificeren. De innovatie zit hem in het feit dat de AI wordt uitgerust met computationele theory of mind, waardoor de AI het perspectief van de arts kan deduceren en zichzelf intuïtiever kan uitleggen. Op deze manier kan tot een betrouwbare gezamenlijke diagnose worden gekomen. Deze aanpak stimuleert de manier waarop artsen samenwerken, waardoor AI een betrouwbaardere en flexibelere partner kan zijn in hybride medische teams.

Hoe kan het onderzoek de maatschappij helpen? 

Dit onderzoek richt zich op een van de grootste drempels bij het gebruiken van AI in de gezondheidszorg: vertrouwen. Ondanks dat AI-systemen al zeer nauwkeurig zijn in het stellen van diagnoses op basis van beeldherkenning, passen ze in de praktijk toch vaak niet binnen de klinische workflow, omdat ze niet effectief met menselijke experts kunnen communiceren of samenwerken. Door theory of mind te introduceren, heb ik een kader ontwikkeld waarbinnen AI zijn beredenering kan afstemmen op die van de arts, zijn gedrag kan aanpassen en samen met de arts tot een betrouwbare conclusie kan komen — zelfs als de diagnose onzeker is.

Deze mensgerichte aanpak bevindt zich nog in het proof of concept-stadium maar kan toch al bijdragen aan de snellere diagnose van kanker, verminderde afhankelijkheid van specialisten en betrouwbaardere AI-ondersteuning. Het onderzoek heeft al de aandacht getrokken van de buitenwereld, variërend van wetenschappelijke congressen tot directe interesse van behandelaars. Dit toont aan dat theory of mind de nauwkeurigheid, communicatie en invloed op beslissingen van AI kan verbeteren in meerduidige diagnostische casussen. Het gaat niet enkel om het verbeteren van AI, maar ook om het bouwen van systemen die zich kunnen aanpassen aan menselijk redeneren en teamdynamiek, iets waar veel medische gebieden wat aan kunnen hebben.

Wat was je persoonlijke motivatie voor het onderzoek?

Ik ben altijd benieuwd geweest naar het snijvlak van mens en technologie. Ik wilde AI niet enkel zien door de lens van intelligentie, maar ook vanuit het perspectief van vertrouwen en samenwerking met mensen. Toen ik aan dit onderzoek begon, zijn we meteen naar de artsen van het UMCG gegaan en hebben we geluisterd naar hun zorgen en uitdagingen wat betreft de huidige AI-hulpmiddelen. Veel behandelaars hadden het gevoel dat de bestaande systemen niet aansloten bij hun behoeften of klinische context. Deze kloof was voor mij de reden om een andere aanpak te onderzoeken, eentje waarbij AI de menselijke expertise respecteert, zich erop aanpast en functioneert als een samenwerkingspartner in plaats van een passief hulpmiddel.

Hierdoor heb ik een beter begrip ontwikkeld van de complexiteit van de samenwerking tussen mensen en AI en hoe een mensgerichte aanpak, gebaseerd op verklaarbaarheid en aanpassingsvermogen, de sleutel is tot het kweken van vertrouwen in een omgeving waar er veel op het spel staat, zoals de gezondheidszorg. Tijdens dit onderzoek heb ik geleerd hoe belangrijk het is om Ai-systemen samen met de beoogde gebruikers te ontwikkelen, en niet alleen vóór hen. Met andere woorden: het is cruciaal om te beginnen bij het begrijpen van het probleem en daarna pas de oplossing te ontwikkelen.

Tot slot wil ik graag mijn begeleiders Dr. Harmen de Weerd van de Rijksuniversiteit Groningen en Dr. Wico Mulder van TNO bedanken.