In de twaalfde aflevering van AI in Recruitment bespreken Jasper Spanjaart en Martijn Hemminga de veranderende rol van kunstmatige intelligentie (AI) in recruitment, met speciale aandacht voor AI-aangewakkerde vooroordelen en discriminatie. De aflevering bevat tevens interviews met Brando Benifei van de Europese Commissie en Laurens Waling van 8vance. Bekijk of beluister de aflevering hieronder.
Nieuwe muziek en Apple’s AI-avontuur
De aflevering begint met een update over recente ontwikkelingen en controverses in de AI-wereld. Dit omvat nieuwe muziekgeneratoren zoals Suno en Udio, die ethische vragen oproepen over auteursrechtinbreuk en het gebruik van werk van artiesten zonder vergoeding. Er is ook nieuws over Apple’s intrede in de AI-space. Apple werkt aan een reeks AI-aankondigingen voor de Worldwide Developers Conference 2024 in juni, maar de details zijn nog onduidelijk.
De Apple-onderzoekers beweren dat het “substantieel” beter zou kunnen presteren dan GPT-4.
Onderzoekers van Apple publiceerden deze week een paper dat mogelijk meer inzicht geeft in Apple’s AI-plannen voor Siri. De nieuwe technologie zou Siri in staat stellen om gespreksgeschiedenissen te onthouden, te begrijpen wat er op het iPhone-scherm staat en zich bewust te zijn van de omgeving, zoals het herkennen van muziek op de achtergrond. De Apple-onderzoekers beweren dat het “substantieel” beter zou kunnen presteren dan GPT-4.
Vooroordelen in recruitment
Het centrale thema van de aflevering is het hardnekkige probleem van vooringenomenheid in AI-systemen die worden gebruikt voor werving & selectie. De hosts leggen uit hoe AI, getraind op historische data die onbewuste vooroordelen kunnen bevatten, deze vooroordelen onbedoeld kan versterken. Ze bespreken concrete voorbeelden, zoals gezichtsherkenningssoftware en AI-systemen die de voorkeur geven aan cv’s met typisch mannelijk taalgebruik.
“Kunstmatige intelligentie lijkt soms futuristisch, maar is niet immuun voor de vooroordelen uit het verleden.”
“Ondanks de vooruitgang in AI-technologie blijft vooringenomenheid een groot probleem,” zegt Spanjaart. “Kunstmatige intelligentie lijkt soms futuristisch, maar is niet immuun voor de vooroordelen uit het verleden. En dat is precies waar het probleem begint. De AI leert van de enorme hoeveelheden data die het ontvangt. Als deze data historische vooroordelen weerspiegelen, bijvoorbeeld in recruitment, zal de AI deze vooroordelen waarschijnlijk overnemen. En deze vooroordelen zijn niet alleen theoretisch, ze hebben een impact op echte mensen. Dit is geen abstract probleem; het is een weerspiegeling van de data waarop het is getraind.”
Het belang van data
De kern van het probleem ligt in de data die wordt gebruikt om deze AI-systemen te trainen. “Stel je voor dat een AI consequent mannelijke kandidaten voorstelt voor technische functies, simpelweg omdat dat het historische patroon in de data is. Gekwalificeerde vrouwelijke kandidaten worden dan genegeerd”, concludeert Hemminga. De aflevering bevat tevens een bijdrage van Brando Benifei, co-rapporteur van de Europese AI-verordening, die het belang benadrukt van verantwoorde AI-ontwikkeling en de implementatie van controles en standaarden voor trainingsdata om vooringenomenheid te bestrijden.
Luister naar de volledige aflevering
De volledige aflevering van AI in Recruitment is te beluisteren op Spotify, Apple Podcasts of via de onderstaande link.
