Designing responsible artificial intelligence
| Promotie: | C.C. (Cor) Steging, MSc |
| Wanneer: | 01 oktober 2024 |
| Aanvang: | 11:00 |
| Promotor: | prof. dr. H.B. (Bart) Verheij |
| Copromotor: | dr. S. Renooij |
| Waar: | Academiegebouw RUG |
| Faculteit: | Science and Engineering |
Menselijke domeinexpertise onmisbaar in verantwoord ontwerp van AI
Kunstmatige intelligentie (Artificial Intelligence, AI) is overal te vinden: er zijn slimme assistenten met spraakherkenning op je telefoon, zelfrijdende auto’s, en algoritmes die ons online producten, muziek en video's aanraden. De meeste van deze AI systemen leren om beslissingen te nemen aan de hand van data: grote hoeveelheden voorbeelden uit het verleden. Het exacte interne redeneerproces dat deze AI systemen leren van die voorbeelden is echter moeilijk te bepalen. Dit kan leiden tot onverantwoord gedrag van het AI systeem.
Cor Steging introduceert in zijn proefschrift een methode om meer inzicht te verkrijgen in het interne redeneerproces van AI systemen die leren van data. Hij laat zien dat AI systemen soms wel de juiste beslissingen kunnen nemen, maar om de verkeerde redenen. Een AI systeem kan bijvoorbeeld een ongewenst verborgen vooroordeel in de data leren, zonder dat we hiervan op de hoogte zijn.
De methode die Steging in dit proefschrift beschrijft biedt niet alleen de mogelijkheid om het interne redeneerproces van een AI systeem te onderzoeken, maar ook om deze bij te sturen. Daarnaast laat Steging zien hoe je een AI systeem kan ontwerpen met een vooropgesteld redeneerproces. Op die manier kan het systeem niet per ongeluk leren om op verkeerde wijze een beslissing te nemen.
Alle methoden in dit proefschrift hebben als uitgangspunt dat de kennis van menselijke domeinexperts meegenomen moet worden bij het ontwerpen van AI systemen die leren van data. Het proefschrift laat zien dat dit noodzakelijk is voor het verantwoord ontwerpen van kunstmatige intelligentie.
Zie ook: Goede AI moet logisch kunnen redeneren
Cor Steging voerde zijn onderzoek uit bij het Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, afdeling Kunstmatige Intelligentie, met financiering van het Hybrid Intelligence Centre. Hij vervolgt zijn loopbaan als postdoc bij de Rijksuniversiteit Groningen.