Deel II: Bias in technologie, hoe staat het ervoor? Amazon-case en waarom we uit moeten kijken met blind vertrouwen op tech

Discriminatie is ook in recruitment een hot topic. Hoe groot is het probleem van discriminatie en bias in recruitment en hoe lossen we het op? In de serie ‘Bias in recruitment’ staat Recruitment Tech stil bij dit onderwerp en hoe tooling hierin een belangrijke rol kan spelen.

Bias in recruitment

In het eerste deel stonden we stil bij wat het verschil tussen bias en discriminatie is en hoe de huidige stand van zaken in de werving is. Onder leiding van de oprichter van Recruitment Tech, Martijn Hemminga, discussieerden Najat Saidi, Bas van de Haterd, Gerard Mulder en Pascalle Ligtenberg, ieder vanuit een andere invalshoek over dit topic. Dat artikel lees je hier terug.

Amazon-case

In dit artikel staan we stil bij bias in tech en misschien wel het bekendste voorbeeld van bias in technologie is de Amazon-case. De internetgigant begon in 2014 met het bouwen van een systeem dat cv’s kon scannen, om de zoektocht naar talent te automatiseren, hiervoor werd kunstmatige intelligentie gebruikt. Al snel bleek dat de bot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv’s die de organisatie al in bezit had. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen.

Recruitmenttechnologie

TNO deed onderzoek naar digitale arbeidsmarktdiscriminatie. Hierbij wilden ze, onder leiding van diverse experts en onderzoekers, inzicht krijgen in de risico’s op arbeidsmarktdiscriminatie door de inzet van recruitmenttechnologieën in werving en selectie. Hoewel velen hun hoop vestigen op nieuwe technologieën in werving en selectie, bleek al uit bovenstaande Amazon-case dat dit geen uitgemaakte zaak is.

Discriminatie en uitsluiting juist versterken

Volgens het onderzoek is het zeker geen garantie dat meer bots zullen zorgen voor minder discriminatie. ‘Het gebruik van recruitmenttechnologieën kan het risico op discriminatie en uitsluiting versterken’, concludeert het onderzoeksinstituut zelfs. Dit kan gebeuren doordat recruitmenttech helpt bij de actieve en gerichte benadering van een bepaalde doelgroep, waardoor automatisch mensen worden uitgesloten. Daarnaast kan technologie ook selectieprocessen ondersteunen, en daarin (ongewild) zorgen voor discriminatie. Een voorbeeld hiervan is de opkomst van videosollicitaties, waarbij er wellicht eerder op uiterlijk of stemgebruik van kandidaten wordt geselecteerd. Kanttekening hierbij is dat dit dan wel alsnog door de recruiter zou komen en niet door de technologie zelf.

Factoren

De onderzoekers van TNO omschrijven zes factoren die de risico’s op discriminatie mogelijk versterken of veroorzaken.

1. Gebrek aan kennis over technologie en gebrek aan bewustzijn van risico’s bij gebruik van technologieën;
2. Gebruik van technologieën ondanks gebrek aan (transparante) validatie;
3. Gebrek aan overzicht over het proces door werkgevers;
4. Gebrek aan transparantie voor de kandidaat;
5. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten: informatieaanbod; 
6. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten: bias in toepassing van algoritmen.

Welke tools expliciet pogen om bias en discriminatie uit recruitment te helpen? Daar staan we in Deel III van deze reeks bij stil.

In het derde artikel in de serie ‘Bias in recruitment’ staan we stil bij Tools om bias weg te nemen binnen werving & selectie. Dit artikel verschijnt begin oktober op de website.

Bronnen: NU.nl, Recruitment Tech, TNO