GDBC-event over AI en menselijk ongemak: verslag | 29 oktober 2019
| Datum: | 01 november 2019 |
[English version below]
Kunstmatige intelligentie en menselijk ongemak – dit thema stond afgelopen week centraal tijdens het kennis- en netwerkevent van het Groningen Digital Business Centre. Want waar menig man de software die ons helpt voordat we wisten dat we hulp nodig hadden, de zogeheten ‘digitale butler’, met open armen ontvangt, roept Artificial Intelligence (AI) ook steeds meer ongemakkelijke gevoelens op.
Hoofdspreker was trendwatcher Jarno Duursma en in zijn lezing ging hij dieper in op deze ongemakken. Ook deelde hij zijn visie op de meest recente ontwikkelingen en hoe we hier het beste mee om kunnen gaan.
Het Van Swinderenhuys in Groningen vulde zich met vele alumni, ondernemers, onderzoekers, RUG-medewerkers en studenten. GDBC-directeur Tammo Bijmolt beet het spits af en gaf een korte update over het expertisecentrum en hoe het ervoor staat met de vier pijlers. Al snel gaf hij het stokje over aan Jarno Duursma, wie bekend is met zowel de positieve als negatieve kanten van AI en hoe mensen dit waarnemen en ervaren. Hij definieert AI als een software die iets doet wat lijkt op menselijke intelligentie. Allereerst gaf Duursma antwoord op de twee meest gestelde vragen over AI, namelijk ‘Gaan robots onze banen overnemen?’ en ‘Komt er een tijd dat AI bewustzijn krijgt?’. Beide vragen beantwoorde hij volmondig met ‘nee’.
Waarom brengen deze digitale ontwikkelingen dan toch ongemakkelijke gevoelens met zich mee? Duursma licht toe dat dit onder andere te maken heeft met het fenomeen genaamd uncanny valley: een onprettig gevoel dat wordt ervaren bij mensachtige robots die zeer realistisch lijken. En naast dat AI inzichten kan voorspellen op basis van data, beïnvloedt en voorspelt het ook steeds vaker ons gedrag aan de hand van emotie detectie. Dit betreft een nieuw domein van analyse waar aanzienlijk veel data uitgehaald kan worden. Zo kan onze stem verraden hoe wij ons voelen van binnen en kunnen hieruit tevens ziektes als Parkinson blootgelegd worden. Bedrijven zijn op hun beurt geïnteresseerd in deze data, en dat vindt Duursma zorgelijk.
Bovendien vreest Duursma dat mensen door de komst van AI steeds minder ongemak kunnen verdragen. Alles is tegenwoordig on demand en op maat voor ons gemaakt. Waar menselijk contact als ongemakkelijk wordt ervaren, doen deze digitale ontwikkelingen vaak hun intrede. Dit heeft mogelijk als gevolg dat men sociale vaardigheden verliest en er minder aanspraak wordt gedaan op de eigen creativiteit. Volgens Duursma ligt de oplossing bij dit ongemak juist aan te gaan, het trainen van je zogenaamde ‘ongemaksspier’ en aandacht te besteden aan je bewustzijn. Deze conclusie leverde veel interessante vragen op uit het publiek.
Na een korte pauze vond een paneldiscussie plaats waar mensen uit de zaal stellingen voor indienden. Het panel bestond uit Jarno Duursma, FEB-alumnus en digital consultant Frido van Driem, tech-ondernemer Domenique van der Niet en professor Jenny van Doorn wie onderzoek doet naar robots en wat potentiële gebruikers hiervan vinden. Hoe gaan we er als maatschappij mee om dat robots sociale taken overnemen? In haar onderzoek komt naar boven dat zowel consumenten als patiënten, zoals senioren, dit nog altijd als ongemakkelijk ervaren.
Er ontstond een interactieve discussie over moraliteit, gezond verstand en waar de grens van AI zou moeten liggen. Zo werd het voorbeeld aangekaart over zelfrijdende auto’s die in het geval van een gevaarlijke situatie op de weg voor een ethisch dilemma komen te staan: moet de software zo geprogrammeerd worden dat de inzittenden beschermd worden of de andere verkeersdeelnemers? De juryleden en bezoekers waren het erover eens dat een dergelijk vraagstuk moeilijk te kwantificeren is.
Tot slot konden bezoekers napraten en netwerken onder het genot van een borrel. Het was een geslaagde middag waar de nadruk sterk lag op de praktijk. Het GDBC is ook zeker van plan om weer events te organiseren waar de combinatie van wetenschap en praktijk centraal staat. Hopelijk tot dan!
[English version]
Report of the GDBC event on AI and human discomfort | 29 October 2019
‘Artificial intelligence and human discomfort’ was the theme of last week’s knowledge and networking event at the Groningen Digital Business Centre. While many of us welcome the software ‘that helps us before we know we need help’ – also called the ‘digital butler’ – with open arms, the advent of Artificial Intelligence (AI) is also making us feel increasingly uncomfortable. The key speaker was trend watcher Jarno Duursma. He examined this feeling of discomfort in more detail and shared his vision on the most recent developments and how best to respond to them.
Plenty of alumni, entrepreneurs, researchers, UG staff and students poured into The Van Swinderenhuys in Groningen. GDBC director Tammo Bijmolt gave the opening speech and provided a brief update on the centre of expertise and the current situation with the four pillars. He soon handed the baton to Jarno Duursma, who is knowledgeable about both the positive and negative aspects of AI and how people perceive and experience them. He defines AI as software that carries out tasks with something akin to human intelligence. Duursma first answered the two most popular FAQs about AI, namely ‘Are robots going to put us out of work?’ and ‘Will AI ever develop awareness?’. He answered both questions with a resounding ‘no’.
Why, then, do these digital developments still give rise to such uncomfortable feelings? Duursma explains that this has to do with a phenomenon called uncanny valley: an unpleasant feeling that is experienced when confronted with very realistic humanoid robots. Furthermore, in addition to predicting insights based on data, AI also increasingly influence and predict our behaviour based on the detection of emotions. This is a new field of analysis and a huge source of new data. For example, our voices can betray how we feel inside and also expose disorders such as Parkinson’s disease. Companies are interested in this data, which Duursma thinks is a cause for concern.
Moreover, Duursma fears that the onset of AI will make people less and less capable of enduring discomfort. Everything today is available on demand and made to measure. The digital technologies that facilitate this often make their appearance in situations where people would rather avoid human contact. But this may result in a loss of social skills and less need for individual creativity. According to Jarno, the solution is to tackle this discomfort head-on by training your so-called ‘discomfort muscle’ and by developing your awareness. This conclusion elicited many interesting questions from the public.
After a short break, a panel discussion was held in which members of the audience presented theses to discuss. The panel consisted of Jarno Duursma, FEB alumnus and digital consultant Frido van Driem, tech entrepreneur Domenique van der Niet and Professor Jenny van Doorn, who is conducting research into robots and what potential users think of them. She is looking into how society responds as robots take over social tasks. Her research reveals that both consumers and patient groups such as elderly people still feel uncomfortable with this development.
An interactive discussion arose on the theme of morality, common sense and the ethical limits of AI. The example of self-driving cars was given, where ethical dilemmas arise in the response to dangerous situations on the road: should the software be programmed to protect the occupants of the vehicle or the other road users? The panel and audience members all agreed that such issues are difficult to quantify.
At the end of the session the attendees had the opportunity to chat and network while enjoying a drink. It was a successful afternoon with a strong emphasis on working practice. The GDBC definitely plans to organize more such events that combine science and practice. Hope to see you then!