Even sparren met een medische AI-assistent

‘AI-tools zijn voor ons artsen pas bruikbaar als ze ook een verklaring geven voor hun conclusies,’ hoorde Andra Cristiana Minculescu, master student Kunstmatige Intelligentie, van een patholoog. En zo was Minculescu’s project geboren, waarin ze explainable AI ontwikkelde voor een medische context. Vandaag won ze met haar project de impact award van de Faculty of Science and Engineering, Rijksuniversiteit Groningen.

FSE Science Newsroom | Charlotte Vlek

Bij patiënten met huidkanker snijdt de arts het aangetaste stukje huid weg en onderzoekt het microscopisch om te bestuderen of langs de randen nog kankercellen zitten. Als dat zo is snijdt de arts nog wat meer weg om er zeker van te zijn dat alle aangedane huid echt verwijderd is. Vaak buigen meerdere artsen zich over de microscopische beelden, en als het nodig is wordt nog de hulp van een patholoog ingeroepen.

Minculescu mocht meekijken bij deze procedure: ‘Niet bij het snijden hoor! Maar wel bij de discussie die de artsen voeren over de microscopische beelden.’ Minculescu vroeg de artsen waarom ze geen gebruik maakten van AI-hulpmiddelen: die zijn toch immers uitstekend in staat om medische beelden te diagnosticeren. Maar juist het overleg tussen de verschillende experts bleek voor de artsen van cruciaal belang. En dus sloeg Minculescu aan het werk om een AI-tool te ontwikkelen die met een team van artsen kan meedenken.

Onderhandelen met een AI-speler

Minculescu’s belangrijkste focus lag op het inbouwen van Theory of Mind (ToM) in het AI systeem. Theory of Mind is de vaardigheid om te redeneren over wat anderen denken of weten, en welke intenties ze hebben. Mensen zijn hier aardig goed in, maar voor een AI is het geen eenvoudige opgave. Door het de AI mogelijk te maken om het perspectief van een individuele arts af te leiden en zich er aan aan te passen, wilde Minculescu een tool ontwikkelen die kon meedraaien in een gezamenlijke discussie.

Minculescu besloot het stukje menselijke huid waar de artsen over discussiëren na te bootsen in een soort virtueel spelbord met vakken. ‘Elk vakje stelt een cel voor, en de spelers kunnen onderhandelen over of die cel kanker heeft of niet,’ legt Minculescu uit. Voor artsen zou dit uiteindelijk een manier kunnen zijn waarin ze met een AI-tool kunnen sparren over de huidcellen.

Minculescu gebruikte het spelbord om verschillende versies van AI-assistenten uit te testen, elk uitgerust met weer andere elementen van Theory of Mind. Op die manier kan ze uit vinden welke versie het beste tot overeenstemming kan komen met een menselijke tegenspeler. Daarvoor heeft ze overigens óók een menselijke tegenspeler nabgebootst in de computer: ‘Ik wilde de AI graag heel veel training geven, maar het was niet te doen om een mens zoveel rondes te laten spelen. Bovendien zijn dokters sowieso altijd druk.’ En dus dook Minculescu in de psychologische literatuur om zo goed mogelijk na te bootsen hoe mensen redeneren over onzekerheid.

Common ground

‘Het was een reis met vele stappen,’ vertelt Minculescu. Maar wat bleek: een AI die werkt met zogenaamde ‘common ground’, boekte de beste resultaten. Deze AI kon zelf informatie afleiden uit wat een ander zegt, én inschatten welke informatie de ander nodig heeft. Daarnaast wist de AI dat sommige informatie aan iedereen bekend is, en dus niet herhaald hoefde te worden. 

‘De artsen reageerden positief op dit project,’ vertelt Minculescu. ‘Ik mocht zelfs een presentatie geven op hun Artificial Skintelligence Symposium.’ Samen met haar scriptiebegeleiders Harmen de Weerd (RUG) en Wico Mulder (TNO) werkt ze nog aan een publicatie van de resultaten. Minculescu zelf is inmiddels afgestudeerd. Of ze hierna ook een PhD gaat doen? ‘Dat stel ik nog even uit. Ik deed dit project vooral om dat ik interesse had in de connectie tussen onderzoek en toepassing. Die toepassing is waar ik nu in verder wil gaan.’ 

AI die overlegt

Een AI waarmee je even kunt sparren over de juiste medische diagnose: het is misschien niet het eerste waar je aan denkt bij de huidige AI-ontwikkelingen. Toch is juist dit soort AI, ook wel Hybrid Intelligence (HI) genoemd, momenteel een belangrijk onderzoeksonderwerp.

Lees ook het interview met Rineke Verbrugge, hoofd van de groep waar Minculescu haar onderzoek deed: Een mens zou moeten beslissen als het gaat om zaken van leven of dood

En bekijk ook ons fictieve beeldverhaal over waarom het zo belangrijk is dat AI kan overleggen: De robot in een doktersjas