HRRH Congres Milaan - Jeremias Prassl - Wordt uw volgende baas een robot?

Het debat over machines die mensen overbodig dreigen te maken, is eeuwenoud, begon Jeremias Prassl zijn sterk geapprecieerde presentatie in Milaan. De Britse professor in Oxford (Magdalen College) is jurist, maar focust op de impact van artificiële intelligentie op de arbeidsmarkt.

Al bij de opkomst van de stoommachine vroeg men zich af of mensenwerk nog nodig zou zijn. We weten ondertussen dat het helemaal anders liep en Prassl denkt dat ook deze keer de belangrijke vragen niet daar liggen. Hij stelt liever de vraag of managers niet méér worden uitgedaagd door artificieel intelligente systemen. De algoritme als manager bestaat immers al.

We zien ondertussen hoe nauwgezet Uber de smartphones van zijn chauffeurs gebruikt om hen op te volgen, ook op rijgedrag en activiteitsgraad. Op die manier kunnen chauffeurs beoordeeld worden en aanbevelingen krijgen. Met de duidelijke boodschap dat ze het beter zullen moeten doen of dat er consequenties kunnen volgen.

Ontslagen door het systeem

Volgens Jeremias Prassl zijn er in de Verenigde Staten al gevallen bekend van ontslagen gebaseerd op basis van productiviteits- en prestatie-analyses. Een optie die voor Europa onvoorstelbaar en illegaal is, stelt de Britse professor.

Deze trend naar een datagebaseerd management doet denken aan de ideeën van Richard Taylor, maar dit gaat toch wel een eind verder. We krijgen hier te maken met veel meer data en manieren om die te gebruiken.

Men zal ook in situaties komen waarin men fysieke parameters van individuen kan capteren: de manier van bewegen, stemgebruik, hartritme... om er uiteenlopende zaken uit af te leiden, zoals pakweg het humeur van de betrokkene. "En vandaar wellicht het prestatieniveau."

Al ziet Prassl voorlopig ook grenzen. We kunnen veel data verzamelen maar factoren die te maken hebben met creativiteit en innovatie, lijken voorlopig niet voor de hand liggend.

Risico's

Deze evolutie werpt toch ook wel vragen op. Specialisten wijzen er al op dat het gewoon menselijk verstand stilaan niet meer kan bevatten hoe een beslissing via een systeem tot stand kwam. Dat is het 'black box'-probleem. Bovendien is er het probleem van de integriteit van de data die gehanteerd worden om systeem voor deep-learning te trainen.

Prassl signaleert het voorbeeld van het systeem dat in de VS moest dienen als ondersteuning van rechters. Die moesten beoordelen in welke mate verdachten een risico betekenden. Het systeem dat hen daarbij moest ondersteunen, bleek echter niet vrij van impliciete raciale vooroordelen.

Iets dergelijks kwam ook al aan het licht bij Amazon, dat zich genoodzaakt zag om te stoppen met tests voor zijn experimentele sollicitatierobot. Eén van de problemen was een zelf aangeleerde voorkeur voor mannelijke kandidaten. Dat kwam doordat het systeem aanvankelijk getest werd op basis van data uit een periode toen vooral mannen solliciteerden. Toen het systeem werd bijgesteld, bleek het toch nog mannen te selecteren op basis van eerder mannelijke woorden uit de technische sfeer die opdoken in cv's.

Prassl waarschuwt er ook voor dat het erg moeilijk wordt om na te gaan hoe een beslissing tot stand kwam. Systemen leren en evolueren. De basis om een beslissing te nemen vandaag is misschien niet meer dezelfde als die later.

Verantwoordelijkheid

Prassl ziet dan ook heel wat juridisch denkwerk in het verschiet, want wie is verantwoordelijk als achteraf blijkt dat het flink mis ging? Zijn dat de bouwers van het systeem? Is dat overigens een systeem dat men aankocht of dat men zelf gebouwd heeft? Of zijn de leveranciers van de data (mede-)verantwoordelijk? De organisatie die bepaalde zaken registreerde en andere niet?

Prassl concludeert dan ook dat het agency-probleem het belangrijkste probleem is. Of technologie uiteindelijk goed zal zijn of slecht, zal afhangen van onze keuzes.

Onze verantwoorde keuzes

Hij schotelt een denkoefening voor: stel dat je zoals amazon over apparaten beschikt om magazijniers heel sterk te leiden door het gebouw om hen te leiden van pick naar pick. Is dat een goede zaak? Het hangt er natuurlijk van af hoe je dat systeem gebruikt. Dient het om het leven van magazijniers makkelijker te maken door hen kilometers loopwerk te besparen? Gebruik je het om de norm stelselmatig te verhogen? Of bouw je een signaal in zodra je merkt dat iemand eens een pauze neemt?

Technologie kan ons productiever maken, onze veiligheid verhogen, ons werk aangenamer maken... Maar cruciaal blijft onze verantwoordelijkheid voor de keuzes die we maken in het gebruik ervan. De mate waarin we daar verantwoorde keuzes maken, zal beslissen of dit een zegen wordt of een akelige ontwikkeling.