Prof. Antonio Casilli: ‘De backoffice van AI is minder rooskleurig dan Silicon Valley doet voorkomen’

Gezichtsherkenning, ChatGPT en spraakassistenten als Siri of Google Home: steeds meer mensen krijgen te maken met de ongekende toepassingen van kunstmatige intelligentie (AI). Minder bekend zijn de miljoenen menselijke 'klikwerkers' die nodig zijn om AI mogelijk te maken. Antonio Casilli, hoogleraar sociologie aan het Institut Polytechnique de Paris, vertelt in zijn lezing 'How Artificial Intelligence fosters Global Inequalities' over de vaak erbarmelijke werkomstandigheden van deze onzichtbare arbeiders. Het evenement wordt georganiseerd door Panoptiwork en de Jantina Tammes School of Digital Society, Technology and AI en vindt plaats op 20 november in het House of Connections. In dit interview geeft Casilli alvast een voorproefje van zijn lezing.

Tekst: Jelle Posthuma

De hoogleraar begint zijn verhaal met een disclaimer. 'Ik ben geen 'mainstream' onderzoeker op het gebied van kunstmatige intelligentie. Mijn achtergrond ligt in de sociale wetenschappen: ik ben opgeleid als econoom en later overgestapt naar de sociologie. Met die achtergrond kijk ik hoe technologie tot stand komt. In mijn lezing vertel ik over de productie van AI en hoe dit mondiale ongelijkheid bevordert.'

Geheime ingrediënten

Kunstmatige intelligentie krijgt de laatste jaren veel aandacht, weet Casilli. Vooral zogeheten 'large language models' zoals ChatGPT zijn razend populair. Dergelijke kunstmatige intelligentie wordt meestal ontwikkeld aan de hand van 'machine learning', waarbij een computersysteem patronen leert herkennen in grote hoeveelheden data. ‘We trainen machines door ze te voorzien van enorm veel voorbeelden’, legt Casilli uit.

Deze training is geen sinecure, weet de onderzoeker. Allereerst zijn er computers met enorme rekenkracht voor nodig. Daarnaast vereist het een gigantische hoeveelheid data. ‘Deze data zijn het geheime ingrediënt van AI en worden vaak voorgesteld als natuurlijke grondstoffen, alsof ze gewoon bestaan in de natuur en onderzoekers ze alleen maar hoeven te ontginnen. Dit is echter niet het geval. De kwaliteitsdata worden geproduceerd. Zelfs in 2023 kan dit maar op één manier: door mensen data te laten produceren, annoteren en verifiëren.’

Silicon Valley

Precies deze industrie, waarin mensen machines trainen om patronen te herkennen, heeft Casilli onderzocht. Hij vervolgt: ‘AI-werknemers worden door veel media voorgesteld als ‘engineers’ bij Google in Silicon Valley, maar dit is slechts een fractie van de mensen die in de AI-industrie werken.' Het grootste deel van de werknemers, vaak omschreven als 'clickworkers', 'microworkers' of 'cloudworkers', komt uit lagelonenlanden. Volgens recente schattingen van de Wereldbank werken er inmiddels 100 tot wel 400 miljoen mensen in deze industrie. ‘Voor ons onderzoek bezochten we deze 'microworkers'. We verbleven een tijdlang op de plek waar ze werken en observeerden en documenteerden hun werkomstandigheden.’

Volgens de hoogleraar is er een neiging tot 'magisch denken' als het gaat om kunstmatige intelligentie. ‘Het wordt vaak omschreven als bovenmenselijk. Maar de backoffice van AI is niet zo rooskleurig als Silicon Valley ons doet voorkomen. Dit gebrek aan transparantie komt bedrijven goed uit door het uitblijven van regelgeving, bovendien blijven investeerders behouden.’ Opvallend genoeg is er veel bekend over de 'supply chain' van kunstmatige intelligentie, stelt Casilli. Time Magazine schreef recent over slecht betaalde moderators in Kenia, een paar maanden nadat ChatGPT in 2022 werd gelanceerd. Het artikel kreeg veel aandacht maar veroorzaakte weinig opschudding, aldus de hoogleraar. ‘Het is geen geheim dat er miljoenen mensen nodig zijn om AI te trainen. Maar het leidt nog altijd tot weinig reacties, ook niet bij toezichthouders.'

Eenvoudig en slecht betaald

Casilli onderzocht de arbeidsomstandigheden en sociale en demografische profielen van datawerkers in vier landen met een laag, gemiddeld en hoog inkomen (Venezuela, Madagaskar, Brazilië en Frankrijk). In de supply chain van kunstmatige intelligentie profiteert het Globale Noorden van economische vooruitgang door innovaties in AI, terwijl het Globale Zuiden vooral goedkope arbeid levert, weet de hoogleraar. Het systeem bevordert zo mondiale ongelijkheid.

De supply chain van kunstmatige intelligentie bouwt voort op bestaande economische afhankelijkheden, vervolgt Casilli. 'Neem Madagaskar en Frankrijk. De beroepsbevolking in Madagaskar heeft een relatief hoog opleidingsniveau en spreekt Frans, maar tegelijkertijd is er veel werkloosheid in het land. Daarom besteden Franse AI-bedrijven hun werk uit aan goedkope 'microwerkers' in Madagaskar. Deze economische afhankelijkheid is niet nieuw: het gaat terug tot de tijd van het kolonialisme en imperialisme.’

Fundamentele mensenrechten

De meeste werknemers in deze industrie zijn relatief jong, stelt Casilli. In het Globale Zuiden zijn de arbeiders overwegend man. In het Globale Noorden is de meerderheid vrouw, zo blijkt uit onderzoek in de VS en Frankrijk. 'Dit wijst erop dat het werk vooral aantrekkelijk is voor mensen die worden buitengesloten van de arbeidsmarkt, in dit geval vrouwen.' Bij dit proces spelen grote multinationals een belangrijke rol, weet de hoogleraar. Wervingsbedrijven als Appen of Scale koppelen werknemers aan opdrachtgevers. 'Je kunt deze bedrijven vergelijken met Uber of Deliveroo. Alleen richten zij zich niet op restaurants, maar op kunstmatige intelligentiebedrijven.’

Het werk is relatief eenvoudig en slecht betaald, vervolgt de hoogleraar. In Madagaskar verdienden werknemers ongeveer 90 tot 100 euro per maand bij een fulltime baan. ‘Dat lijkt misschien veel in Madagaskar, maar het is niet genoeg om een gezin in een hoofdstad te onderhouden.' Bovendien is er nauwelijks oog voor de arbeidsomstandigheden. ‘Fundamentele mensenrechten ontbreken. Werknemers moeten bijvoorbeeld traumatiserende beelden bekijken om AI te trainen in het filteren en modereren van gewelddadige beelden. Er is totaal geen aandacht voor de mentale gezondheid van mensen.'

Race to the bottom

De feiten spreken voor zich: de industrie achter kunstmatige intelligentie werkt ongelijkheid in de hand. Terwijl het op papier juist economische kansen biedt. 'Zo wordt het ook vaak gesteld, bijvoorbeeld door de internationale organisaties', reageert Casilli. 'Werknemers over de hele wereld kunnen immers werken in de cloud. Het probleem is echter de hyperflexibiliteit van deze platforms, zonder transparantie en verantwoording. Er zijn miljoenen werknemers die met elkaar concurreren en een overstap naar een ander land zonder strikte regelgeving is makkelijk te maken voor bedrijven. Het resultaat is een 'race to the bottom'.’

Maar hoe zit het met kunstmatige intelligentie als oplossing voor het probleem? Op een zeker moment zal AI zo slim zijn dat menselijke werknemers helemaal niet meer nodig zijn, zo luidt de gedachte. 'In de praktijk zien we echter dat automatisering ervoor zorgt dat werknemers nog minder betaald krijgen.' Casilli gelooft ook niet dat kunstmatige intelligentie de mens zal vervangen. 'Bij elke innovatie zullen machines opnieuw door mensen worden getraind. Het is een vicieuze cirkel zonder einde.'

Magisch denken

Volgens de hoogleraar ligt er een schone taak voor wetenschappers om na te denken over alternatieven voor 'machine learning'. 'Deze vorm van AI werkt ongelijkheid in de hand, om nog maar te zwijgen over de afschuwelijke ecologische voetafdruk.' Tegelijkertijd moeten toezichthouders niet meegaan in het 'magisch denken' over kunstmatige intelligentie. 'Beleidsbepalers zijn vaak niet technologisch onderlegd, wat leidt tot ineffectieve regelgeving. Bedrijven profiteren hiervan.’

Beleidsmakers kunnen beter kijken naar de manier waarop kunstmatige intelligentie wordt geproduceerd, stelt de hoogleraar. ‘Op dit moment proberen we alleen de effecten van AI te reguleren. In de nieuwe AI-regulering (AI Act, red.) van de Europese Unie wordt bijvoorbeeld met geen woord gerept over de productie van kunstmatige intelligentie. Zo gaat dat toch ook niet met een Nike schoen? Bij een schoen wil je zeker weten of er geen kinderarbeid aan te pas is gekomen, of andere vormen van uitbuiting. De nieuwe ‘AI Act’ is echt een gemiste kans', concludeert Casilli.

Het evenement 'How AI fosters Global Inequalities' vindt plaats op 20 november vanaf 15.30 uur. Geïnteresseerden kunnen zich aanmelden via de website. Het evenement is online te volgen en fysiek in het House of Connections in Groningen.