Arbeidsmarktdiscriminatie & algoritmes (7/8): Onderzoeken naar bias

In het zesde artikel in deze serie over arbeidsmarktdiscriminatie en algoritmes hadden we het over de inzet van algoritmes om bias juist tegen te gaan. Voor dit zevende artikel spraken we een aantal onderzoekers die ons inzicht geven over waar we nu staan met recruitmentsoftware: wordt deze steeds neutraler en wordt bias steeds actiever bestreden? Aan het woord komen ondervoorzitter Quirine Eijkman van het College van Rechten van de Mens en onderzoekers Jacqueline van Breemen en Elmira van den Broek.

Discriminatie op de arbeidsmarkt en algoritmes

In een achttal artikelen brengen we een belangrijk onderwerp in kaart, discriminatie op de arbeidsmarkt en de rol van algoritmes bij het wervingsproces. Het rapport ‘Recruiter of computer? Zo voorkom je als werkgever discriminatie door algoritmes bij werving en selectie’ van het College voor de Rechten van de Mens heeft aan de basis gestaan van deze serie.

AI en kandidaat eerlijke kans geven

Jacqueline van Breemen deed de afgelopen jaren voor NOA-VU onderzoek of Artificial Intelligence (AI) in recruitment je als kandidaat een eerlijke kans geeft. Van Breemen kreeg een financiële bijdrage van €10.000 voor haar onderzoek van NSvP, de Nederlandse Stichting voor Psychotechniek. Deze organisatie doet in het eigen kenniscentrum onderzoek naar de arbeidsmarkt van morgen en wat dat vraagt van de talentontwikkeling van jongeren en werkenden. Ook schrijft zij challenges uit. Van Breemen won een van die challenges (‘Algoritmes in Werving en Selectie: Laat zien wat de meerwaarde is’).

Studiesucces voorspellen

Maar wat waren nu de bevindingen van Jacqueline van Breemen? Zij deed onderzoek naar een groep van circa 700 studenten uit de jaren 2013-2017 van een deeltijd universitaire opleiding. “Er zijn gegevens beschikbaar van zowel de studieresultaten en de eigenschappen (testinstrumenten en persoonlijke gegevens). De gemiddelde leeftijd bij aanvang van de studie voor deze groep is 26 jaar. Met behulp van drie methoden — een expert-model met hulp van twee psychologen, een regressiemodel en werving met een AI-algoritme, ontworpen door 3DUniversum — werd studiesucces voorspeld. Dat ging redelijk goed, bij alledrie de methoden. Het ranking model voorspelde 69% correct, het regressie model 74%, en het AI model 71% correct.”

Bias

Als het gaat om bias ligt dat anders. “Bias op basis van gender werd weinig gevonden. Maar het regressiemodel en het AI-model overschatten in hun voorspellingen beide het succes van studenten met een Nederlandse geboorte-achtergrond, ten koste van studenten met een niet-westerse geboorte-achtergrond.’’ Van Breemen wijst erop dat inzet van AI bij selectie sommige vooroordelen juist kan versterken, in plaats van ze te bestrijden. ‘’Dus als een bepaalde groep nu iets meer succesvol is, voorspelt een AI-model dat kandidaten uit eenzelfde groep in de toekomst véél succesvoller zullen zijn.” Dat de kansen op succes van kandidaten met een Nederlandse achtergrond te hoog en de kansen op succes voor kandidaten met een niet-westerse achtergrond juist te laag werden, betekent volgens de onderzoekster niet dat je AI nooit zou moeten inzetten bij de selectie van kandidaten. Liever pleit ze ervoor de algoritmes ‘uitlegbaar’ te maken. “Maar op dit moment wordt de belofte om objectiever te selecteren met AI nog niet waargemaakt.”

Eerlijk wervingsproces

Ook Elmira van den Broek, destijds verbonden aan het Kin Center for Digital Innovation deed (promotie)onderzoek naar de ‘grote beloftes’ van AI gedreven selectiebeslissingen. Daarvoor deed ze drie jaar onderzoek bij een grote multinational, die AI toegepaste om een eerlijk wervingsproces mogelijk te maken. Dit (geanonimiseerde) bedrijf, MultiCo, behoort tot ’s werelds grootste fast-moving consumer good bedrijven, met een jaarlijkse omzet van meer dan $50 miljard en 200.000 werknemers in meer dan 50 landen.

In september 2018 lanceerde MultiCo een AI-applicatie voor het wervingsproces van al zijn graduate trainee-programma’s in Europa. Jaarlijks solliciteerden meer dan 10.000 kandidaten voor 100 openstaande posities. De AI-toepassing werd geleverd door een externe leverancier, die de organisatie beloofde subjectiviteit en vooroordelen uit het personeelsbestand te verwijderen. De toepassing verving CVs en de gestandaardiseerde online tests die MultiCo voorheen gebruikte (onder meer logische redeneertest) door neurowetenschappelijke games, en voegde de mogelijkheid van geautomatiseerde videoanalyse toe.

Managers ontevreden

Van den Broek woonde circa 200 meetings bij en nam meer dan 100 interviews af om te zien hoe de implementatie van deze AI-gedreven selectietool in de praktijk verliep. De tool werd later ook ingezet voor reguliere werving van werknemers. “De managers waren regelmatig ontevreden met de kandidaten die naar voren werden geschoven door de AI-toepassing. Dan werd iemand bijvoorbeeld afgewezen door het systeem, terwijl de manager die kandidaat een jaar had begeleid bij een stage en juist veel potentie zag. De AI-toepassing strookte daarom niet altijd met het meer holistische beeld dat managers van kandidaten hadden. Terwijl de leverancier dit zag als subjectieve voorkeur van managers, bleek dat managers belangrijke eigenschappen van kandidaten herkennen die niet makkelijk te kwantificeren zijn, zoals ‘humbleness’. Duidelijk werd dat de AI-toepassing vaak gelijksoortige kandidaten naar voren schoof, selecterend op bepaalde vaardigheden. Dit strookte niet met de focus van managers op het werven van uiteenlopende werknemers met diverse persoonlijkheden voor hun teams.”

Extra filter

In de praktijk wordt de AI-toepassing bij dit bedrijf nu gebruikt als eerste filter. Van den Broek: “De matchscores op basis van AI zijn leidend in de eerste selectieronde maar managers blijven een belangrijke rol spelen in het uiteindelijk aannemen van kandidaten. Zij gebruiken AI als een bron van extra informatie en kunnen in specifieke gevallen ook AI-selecties verwerpen. Zo blijven individuele succescriteria belangrijk, maar bijvoorbeeld ook of je als kandidaat in een divers team past. Je wilt niet allemaal dezelfde soort supermensen aantrekken.”

900 werkgevers onderzocht

Tenslotte spraken we Quirine Eijkman, ondervoorzitter van het College voor de Rechten van de Mens, over het door deze organisatie recent uitgevoerde onderzoek onder circa 900 werkgevers. “Het is een representatief onderzoek onder werkgevers, over werven en selectie met algoritmes. Eén op de tien werkgevers zet zelf algoritmes in bij de selectie van kandidaten en bij beoordeling van kandidaten. Dit zijn met name grotere werkgevers. Deze werkgevers gebruiken online assessments, persoonlijkheidstesten en competentietesten. Daarnaast laat één op de zes werkgevers de kandidaten door een externe partij selecteren, die daar mogelijk recruitmenttechnologieën bij gebruikt. Maar eigenlijk passen al die werkgevers op indirecte wijzen algoritmes toe: door bijvoorbeeld vacatures te plaatsen bij Facebook of LinkedIn of online vacaturebanken.”

Totaal geen notie van mogelijk discriminatoire effecten

Een groot deel, circa driekwart, van de werkgevers, heeft eigenlijk geen notie van mogelijk discriminatoire effecten van recruitmentsoftware of plaatsing van vacatures op social media-sites, zegt Eijkman. “Ze weten bijvoorbeeld vaak niet dat gericht online adverteren ervoor kan zorgen dat bepaalde groepen een vacature minder of niet te zien krijgen. Je merkt dat de automatisering in werving en selectie snel is gegaan en dat nog weinig werkgevers zich bewust zijn van de mogelijke discriminatoire effecten van recruitmentsoftware. We zijn denk ik nu in de bewustwordingsfase als het gaat om wat de voor- en nadelen van recruitmentsoftware kunnen zijn. Velen onderschatten nog wat de feitelijke rol is van deze technologie is, maar dat kan snel veranderen.”