Oratie van Prof. Dr. Jenny van Doorn, 3 maart 2020

Leden van het College van Bestuur, zeer geachte aanwezigen,

In de afgelopen jaren zien we dat dienstverleners steeds meer investeren in kunstmatige intelligentie en robots. De verkoop van robots aan dienstverlenende bedrijven is van 2017 naar 2018 wereldwijd met meer dan 60% gestegen (Industrial Federation for Robotics 2019), dus grote kans dat ook u binnenkort een robot gaat tegenkomen. Waar kunt u nu al robots in actie zien? Als u een politiebureau in Hoogezand of Assen binnenloopt, heeft u de kans om robot Pepper tegen te komen. Pepper neemt namelijk in het kader van een pilot van de politie Noord-Nederland aangiftes van kleine delicten op (Kelderman 2020). Als u via Frankfurt airport vliegt, kan robot Franny u de weg wijzen, en het bijzondere is dat zij dat doet in 44 verschillende talen (Frangoul 2019). In veel bejaardentehuizen kunt u dit zeehondje Paro tegenkomen (Dorresteijn 2015), en zorgrobot Zora komt regelmatig in actie in een bejaardentehuis in Emmen.

Wat is een robot, en wat is KI eigenlijk?

Beginnen we met de vraag: Wat is een robot eigenlijk precies, en wat is kunstmatige intelligentie? Kunstmatige intelligentie kan externe data correct interpreteren, daarvan leren, en het geleerde toepassen met als doel specifieke taken uit te voeren waarbij het zich op flexibele wijze aanpast (Haenlein & Kaplan 2019). Daarmee bootst kunstmatige intelligentie delen van onze menselijke intelligentie na (Huang & Rust 2018). Een robot wordt gedefinieerd als “embodied artificial intelligence”, dus kunstmatige intelligentie met een fysiek omhulsel eromheen (Rijksdienst Ondernemend Nederland 2017). Een robot kan vandaar zowel fysieke als ook niet- fysieke taken uitvoeren met een hoge mate van autonomie en in een omgeving die complex is (Jörling, Böhm & Paluch 2019). Naast Pepper en Franny vallen ook uw robotstofzuiger die fysiek ageert in uw complexe huis en zelfrijdende auto’s die ageren in het complexe verkeer onder deze definitie.

Waar gaan we robots tegenkomen?

En welke robots gaan we in de toekomst zien? En waar gaan we ze tegenkomen? Een gebied waar veel geïnvesteerd wordt in robots en andere technologische oplossingen is de gezondheidszorg, met als drijfveer het steeds nijpender wordende tekort aan personeel. Hier wordt daarom ook de grootste groei van de inzet van robots in Nederland verwacht (Rijksdienst voor Ondernemend Nederland 2017). Hebben we straks naast dokter “Google” ook te maken met dokter “Robot”? Gaan we net zoveel vertrouwen hebben in de capaciteiten van dokter “Robot” als in die van een menselijke arts? Als dokter “Robot” ons vertelt dat we echt minder moeten gaan eten en meer bewegen, gaan we dat dan doen? En wat nou als we slecht nieuws te horen krijgen – mag dokter “Robot” ons dat dan vertellen, of willen we dat te horen krijgen van een menselijke arts? En zo ja - waar ligt de scheidslijn tussen diagnoses die dokter “Robot” met ons mag delen en diagnoses die alleen een menselijke arts met ons mag delen? En wat nou als dokter “Robot” een fout maakt – wie is dan aansprakelijk?

Toekomstmuziek denkt u? In Californië kreeg vorig jaar een man te horen dat hij niet meer lang te leven had via een zo genaamde telepresentie robot (Jacobs 2019). Dat is een soort Skypeverbinding op wielen met een echte arts op afstand. De patiënt en zijn familie vonden het vreselijk om het slechte nieuws zo te horen. In Zuid-Korea zijn onlangs gratis slimme speakers uitgedeeld aan ouderen en hulpbehoevenden tegen eenzaamheid (Visser 2019). Mevrouw Jang, die blind is en maar beperkte sociale contacten heeft, is er erg blij mee omdat het nu minder stil is in haar flatje. Handig is ook dat de speakers allemaal verbonden zijn met een helpdesk. Als mevrouw Jang tegen de speaker zegt dat het niet goed met haar gaat, gaat een menselijke hulpverlener haar bellen. Handig toch? Of misschien eerder eng? Net zo handig of eng als uw slimme speaker thuis, die alle gesprekken opneemt en doorstuurt naar de cloud van het techbedrijf in kwestie. Gelukkig nog zonder helpdesk die ingrijpt bij hoogoplopende echtelijke ruzies. Maar wat dan als je speakers inzet om kindermishandeling te detecteren?

Wat uit deze voorbeelden duidelijk wordt is ten eerste dat de robotisering van onze samenleving in volle gang is. Ten tweede biedt de technologie enorme voordelen, maar er zitten ook schaduwkanten aan. Als hoogleraar Dienstenmarketing wil ik daarom in de volgende jaren de inzet van robottechnologie in de dienstverlening nader onderzoeken. Waar liggen de kansen, en hoe kunnen we de schaduwkanten zoveel mogelijk inperken?

Geautomatiseerde Sociale Presentie maakt robottechnologie vernieuwend

De eerste vraag die je jezelf als onderzoeker moet stellen is: Wat is eigenlijk het nieuwe aan robottechnologie? Uit wetenschappelijk perspectief is dit een hele belangrijke vraag. Als robottechnologie in essentie hetzelfde is als andere vormen van automatisering die wij al kennen, hebben wij geen nieuw onderzoek nodig. Dan kunnen we de inzichten uit onderzoek dat gedaan is naar vorige generaties van technologische vernieuwing in dienstverleningen – zoals bijvoorbeeld de pinautomaat - toepassen op de robottechnologie (Meuter et al. 2000). Wat is het verschil tussen eten geserveerd krijgen door een robot, of het bij de FEBO uit een automaat halen? Om u dat te laten zien, heb ik een robot meegenomen zoals u het verschil ook kunt ervaren.

Zoals u ziet, doet de interactie met de robot denken aan tussenmenselijke interactie. Normaal gesproken praat u niet tegen een automaat bij de FEBO, en die automaat praat ook niet terug. Bij een robot gebeurt dat wel. En dat is wat robottechnologie anders maakt dan andere vormen van automatisering – er vindt ook een sociale interactie plaats, en dat is nieuw. In een artikel hebben mijn Amerikaanse co-auteurs en ik dit fenomeen “Automated Social Presence” genoemd. Wij definiëren dit als “...the extent to which machines (e.g., robots) make consumers feel that they are in the company of another social entity” (van Doorn et al. 2017). Bij een interactie met een robot wordt dus niet alleen de dienstverlening zelf, maar ook de sociale interactie - tot nu toe bij uitstek het domein van de mens - geautomatiseerd. Dit maakt de inzet van robotica een fundamenteel ander fenomeen dan vorige generaties van technologische vernieuwing in de dienstverlening.

Combinaties van geautomatiseerde en menselijke sociale presentie in de dienstverlening

Wat betekent de inzet van robotica en de automatisering van sociale interactie voor de dienstverlening van de toekomst? Een dienstverlener kan nu ook technologie inzetten voor de sociale interactie met de klant, en kan kiezen uit verschillende combinaties van geautomatiseerde en menselijke sociale interactie. In deze matrix heb ik deze verschillende combinaties samengevat, waarbij ik een onderscheid maak tussen dienstverlening met hoge en lage menselijke en hoge en lage geautomatiseerde sociale presentie (van Doorn et al. 2017).

Kwadrant 1 omvat dienstverleningen zonder enig sociaal element die al voor een groot deel geautomatiseerd zijn – denk aan de geldautomaat. Verdere ontwikkelingen worden verwacht door machine-to-machine communicatie en het zo genaamde Internet of Things waardoor steeds meer dagelijkse voorwerpen sensoren hebben en verbonden zijn met het internet, zoals bij voorbeeld uw slimme thermostaat (Langley et al. 2020; Marinova et al. 2017). In kwadrant 2 ligt de focus op menselijke sociale presentie, en is technologie een hulpmiddel deze te transporteren – denk b.v. aan de telepresentie robot waar ik het in het begin over had. Dit soort robots worden nu al regelmatig gebruikt niet alleen in de gezondheidszorg, maar ook voor meetings en congressen. Ook hologramtechnologie wordt in tijden van vliegschaamte steeds meer als een mogelijk alternatief gezien. Mijn onderzoeksagenda voor de volgende jaren gaat vooral over kwadranten 3 en 4 van deze matrix waar geautomatiseerde sociale presentie – al dan niet in combinatie met menselijke sociale presentie - een grote rol speelt.

Vervanging van menselijke door geautomatiseerde sociale presentie

In kwadrant 3 wordt menselijke sociale presentie volledig geautomatiseerd door de inzet van b.v. een robot. Grote vraag is natuurlijk wat consumenten in een dienstverleningssituatie hiervan vinden? Hoe gaat u reageren als u ineens met dokter “Robot” te maken heeft in plaats van met een menselijke arts?

Aan de ene kant kun je met robots die op een vergelijkbare manier communiceren als wij dat doen makkelijker interageren en ook makkelijker een band vormen (Broadbent et al. 2008; Mende et al. 2019). Dat zou betekenen dat consumenten positief staan tegenover de inzet van robots in de dienstverlening, en hoe menselijker de robot, hoe beter. Aan de andere kant is er onderzoek wat laat zien dat robots negatieve gevoelens oproepen. De theorie van de zogenaamde “Uncanny valley” voorspelt dat hoe menselijker de robot, hoe negatiever de gevoelens. De reden hiervoor is dat een robot die er menselijk uitziet het verwachte menselijke gedrag vaak niet waar kan maken (Mori, MacDorman, & Kageki 2012). Ongemak tegenover een robot kan ook verklaard

worden door evolutietheorie omdat we robots waarnemen als een mogelijk bedreigende andere species of associëren met ziektes. Ook kunnen robots ons bang maken voor het verliezen van controle – bij voorbeeld dat een robot door een technisch mankement niet meer doet wat we willen – of gedachten oproepen over intelligente robots die gaan heersen over de mensheid (Gray and Wegner 2012; Ray, Mondada, & Siegwart 2008). Dit zijn inderdaad scenario’s uit diverse Hollywoodfilms, te beginnen bij Stanley Kubrick’s Space Odyssey tot de welbekende Terminator reeks, waarschijnlijk geïnspireerd door onze diepgewortelde angst voor robots.

In mijn eigen onderzoek heb ik tot nu toe vooral bewijs gevonden voor de tweede denkrichting. In een onderzoek gepubliceerd in Journal of Marketing Research met mijn Amerikaanse co-auteurs Martin Mende, Maura Scott, Dhruv Grewal en Ilana Shanks vinden wij dat robots mensen zich ongemakkelijk laten voelen (Mende et al. 2019). Om deze negatieve gevoelens te compenseren gaan consumenten meer eten, of duurdere dingen kopen, als reactie op de stress veroorzaakt door robots. Als je benadrukt dat de robot een machine is – door de robot b.v. geen naam te geven, en laat dat nou juist iets zijn wat managers graag doen – worden de negatieve effecten minder. Hetzelfde geldt als je de robot inzet in sociale situaties waar mensen zich met andere mensen verbonden voelen, denk b.v. aan borrels en andere bijeenkomsten.

Een team van collega’s van de Universiteit Maastricht komt tot vergelijkbare inzichten met betrekking tot de inzet van robot coaches in de ouderenzorg. Robot coaches worden lager beoordeelt op warmte en competentie, twee belangrijke dimensies als het gaat om het beoordelen van sociale interacties, en daardoor zijn ouderen minder geneigd om mee te doen aan een sportieve game (Čaić et al. 2019).

Robots inzetten in situaties met menselijk sociaal ongemak

Hoe nu verder? Moeten we maar stoppen met het inzetten van robots? De kern van mijn toekomstige onderzoek is uit te zoeken hoe deze negatieve gevoelens verminderd, of misschien zelfs vermeden, kunnen worden, waar ik me vooral wil richten op de sociale component. In sommige situaties wordt sociaal ongemak juist door de mens veroorzaakt, zijn dat misschien momenten waarop een robotdienstverlener prettig kan zijn? Iets waar ik nu samen met promovenda Jana Holthöwer naar kijk zijn situaties waar consumenten beducht zijn voor het menselijke sociale oordeel, bij voorbeeld als ze iets willen kopen waar ze zich voor schamen – denk aan condooms, maar ook sommige medicijnen (Dahl et al. 2001). Een van de redenen waarom de politie experimenteert met technologie en robotica is om de drempel om aangifte te doen van kleine delicten te verlagen, want veel mensen willen de toch al drukke agent niet lastigvallen met hun fiets die gestolen is. Een verschil van inzicht tussen de patiënt en het verzorgende personeel over het belang van tijdige medicijninname kan ook voor ongemakkelijke situaties zorgen. Zou daar een robotdienstverlener een oplossing kunnen zijn?

Communicatie tussen mens en robot verbeteren

Een andere denkrichting is de communicatie tussen robot en mens te verbeteren. Het zo genaamde Computers Are Social Actors (CASA) paradigma (Nass, Steuer & Tauber 1994) voorspelt dat als wij mensen een robot of een virtuele agent tegenkomen, we zonder erover na te denken sociale normen en verwachtingen die we van tussenmenselijke communicatie hebben op deze interactie toepassen. En belangrijk element van tussenmenselijke communicatie is taal (Semin & Fiedler 1992), vandaar dat bij communicatie met robots taal ook een belangrijke rol speelt.

In mijn eigen veldonderzoek in een bejaardentehuis in Emmen is mij opgevallen dat voor ouderen de synthetische robotspraak vaak wat moeilijk te begrijpen is. Toen Zora de zorgrobot ineens een liedje in het Vlaams ging doen, was de irritatie in de ruimte voelbaar. De ouderen reageerden veel beter op de verzorgenden die gewoon Drents spraken, wat mij aan mijn eigen oma deed denken die aan het einde van haar leven ook alleen nog maar op Achterhoeks reageerde, een effect wat taalwetenschappers attritie noemen (Schmid & Keijzer 2009). Zorgverleners zijn daarom naarstig op zoek naar verpleegkundigen die dialect beheersen, maar het wordt lastig als het om een niet- lokaal dialect of om zelfs een buitenlandse taal gaat. Uit de literatuur weten we dat een gedeelde taal belangrijk is voor acceptatie van en vertrouwen in de verzorgende (Kalbfleisch 2009; Andrulis & Brach 2007). Ook weten wij uit de literatuur dat een gedeelde moedertaal een belangrijk element is in het bouwen van vertrouwen in internationale teams (Tenzer, Pudelko, & Harzin 2014).

Wat we niet weten is of ook synthetische regionale taal, in combinatie met een robot of een slimme speaker, voor een groter vertrouwen in en grotere acceptatie van technologie kan zorgen. Vandaar dat ik in een interdisciplinair project, samen met collega’s van de letterenfaculteit, Nanna Hilton en Martijn Wieling, onderzoek of de ervaring die ouderen met technologie hebben verbeterd als de spraaktechnologie gebruik maakt van regionale taal, dus het Gronings. Dit onderzoek wordt mogelijk gemaakt door een NWA-ideeëngenerator subsidie van NWO en door maatschappelijke stakeholders, met name de woonstichting “Groninger Huis” voor het testen van de technologie onder “Gronings”-sprekenden en filmmaker Fedde Hoekstra. Ik wil u nu ook een stukje Groninger stem laten horen, ontwikkeld door Frank Hopwood en Tonny Romensen. Bijkomend voordeel is dat een robot verschillende regionale talen kan leren spreken en zo een oplossing kan zijn voor instellingen met patiënten met verschillende taalachtergronden.

Samenwerking tussen menselijke en geautomatiseerde sociale presentie

Mijn persoonlijke overtuiging is dat de toekomst ligt in de samenwerking tussen de mens en robots en andere kunstmatige intelligentie, dus kwadrant vier van de matrix. In veel dienstverlenende sectoren is dit geen nieuw fenomeen, denk b.v. aan de gezondheidszorg waar operaties uitgevoerd worden samen met een robot. Studies wijzen uit dat door deze ondersteuning patiënten 20% minder lang opgenomen hoeven blijven doordat er minder complicaties zijn (Kalis, Collier & Fu 2018). Deze samenwerking vindt tot nu toe vooral achter de schermen plaats zonder dat de patiënt er veel van merkt, iets wat veranderd door de opkomst van sociale robots (Adams 2018) – bij voorbeeld Moxi, een robot die klusjes doet als beddengoed of andere benodigdheden ophalen, maar ook met patiënten en collega’s praat (Hennes 2019). De meest prangende onderzoeksvragen hier omvatten ten eerste de taakverdeling tussen robots en mensen, en ten tweede de samenwerking tussen robots en mensen.

Taakverdeling tussen mens en robot

De toevoeging van de sociale component aan technologie zorgt ervoor dat robots steeds meer taken van mensen kunnen overnemen, ook taken die emoties vereisen, tot nu toe uitsluitend het domein van de mens. Ik verwacht niet dat daardoor al “onze” banen overgenomen worden door robots, maar wel sommige taken, dus werkzaamheden die deel van een baan zijn (Huang & Rust 2018; Brynjolfsson & Mitchell 2017; CustomerTalk 2019).

Ook hier is het belangrijk om niet alleen te kijken naar wat technisch mogelijk is, maar ook uit te vinden welke taken technologie zonder aantasting van de klantervaring over kan nemen. Wellicht kan technologie – die een taak oneindig kan herhalen zonder moe of ongeduldig te worden en sterke analytische vaardigheden heeft – bij sommige taken zelfs bijdragen aan een betere klantervaring. Onderzoek wijst uit dat consumenten algoritmes meer vertrouwen bij taken die ze als meer objectief inschatten, bij voorbeeld financieel advies, en minder bij taken die als subjectiever ervaren worden, zoals advies over de perfecte partner (Castelo, Bos & Lehmann 2019). Wij - Chenming Peng, Felix Eggers, Jaap Wieringa en ik – bouwen hierop voort en kijken in hoeverre de mate in welke een taak analytische, intuïtieve en emotionele intelligentie vereist een invloed heeft op de acceptatie van technologie (Huang & Rust 2018). Ons voorlopige resultaat is dat respondenten vooral voor taken die emotionele intelligentie vereisen een sterke voorkeur hebben voor menselijke dienstverleners.

Samenwerking tussen mens en robot

Naast inzichten over de ideale taakverdeling tussen mens en robots zijn er ten tweede inzichten nodig over hoe de samenwerking het beste vorm gegeven kan worden. In een onderzoek met internationale co-auteurs kijken we naar leiderschap binnen teams bestaande uit mens en robots in de gezondheidszorg. Ons onderzoek laat zien dat het belangrijk is dat de mens duidelijk de leiding heeft in mens-robot teams (Shanks et al. 2020). Waar we nog weinig over weten, en wat ik in de toekomst wil onderzoeken, is het effect van autonomie van een robot. Onderzoek laat zien dat autonomere robots als meer bedreigend ervaren worden omdat we als mensen minder controle over autonomere robots hebben (Złotowski, Yogeeswaran & Bartneck 2017). Wat we niet weten is het effect van autonomie op de mate waarin een patiënt advies ter harte neemt (MacGeorge, Lichtman & Pressey 2002). Is een patiënt eerder geneigd zijn/haar medicijnen te nemen als een robot hem/haar op eigen titel eraan herinnerd, of kan de robot beter duidelijk maken dat dit de opdracht is van de arts, verpleging, of familie?

Afsluitend wil ik terugkomen op de vraag uit de titel van mijn oratie: Zijn robots nou enig of eng? Robots voegen een sociaal element aan geautomatiseerde dienstverlening toe wat er tot op heden nog niet was. Dit element maakt deze generatie van automatisering fundamenteel anders dan vorige generaties en zorgt ervoor dat we robots tegelijkertijd enig en eng kunnen vinden. Als maatschappij moeten wij de discussie aangaan voor welke taken wij welke vorm van robotisering geschikt vinden, en hoe we omgaan met de risico’s. Als hoogleraar Dienstenmarketing wil ik de volgende jaren inzichten genereren over hoe we de transitie naar een sterker gerobotiseerde samenleving het beste vorm kunnen geven zodat het niet ten koste gaat van de klantervaring - dus robots meer enig, en minder eng maken.

Dankwoord

Voor mij is deze dubbel feestelijke dag – ik ben ook jarig – een moment om stil te staan bij mijn eigen academische reis. Dit is mijn dissertatie – een boek in het Duits van meer dan 200 pagina’s. Hiermee ben ik meer dan 15 jaar geleden naar Groningen gekomen, als postdoc, en ik wist zeker dat ik het hier niet tot hoogleraar zou schoppen omdat ik wel van heel ver moest komen. Dat het toch gelukt is, heb ik te danken aan de fantastische mensen om me heen, met name de vakgroep Marketing, niet alleen een hele fijne, maar ook een inspirerende en uitdagende omgeving. Een bijzonder dankjewel aan Peter, Peter, Tammo en Koert voor het mentoring en de duwtjes in de rug op de goede momenten. Lianne en Bertina, zonder jullie hulp waren de afgelopen maanden, en dit feest, een stuk minder leuk geweest. Dank ook aan mijn co-auteurs, de service community en in het bijzonder de Organizational Frontlines community die mijn denken hebben gevormd, de laatste vooral op het gebied van technologie inzet in de dienstverlening. Ik wil mijn familie en vrienden bedanken omdat ze er altijd voor me zijn als stabiele basis in mijn leven buiten de wetenschap. Voglio anche ingraziare la mia famiglia Italiana, in Italia, e in Olanda. Oneindig veel dank aan mijn ouders, voor alle steun niet alleen in het verleden, maar ook in het heden tijdens diverse ziektes, schoolvakanties en congresreizen. Zonder Paolo’s liefde en steun zou ik hier niet staan, en je hebt mijn leven verrijkt met de Italiaanse dimensie. Marco en Sandra, jullie moeder te mogen zijn is fantastisch.

Ik heb gezegd.