De wet was al langer op komst, maar nu is de kogel definitief door de kerk. Europa heeft haar eigen AI-wet: de Artificial Intelligence Act. Wat voor impact heeft de wet op recruitment?

Regulering voor bescherming én innovatie

Allereerst een stukje introductie: waar is de wet precies voor? “Deze regulering heeft tot doel fundamentele rechten, democratie, de rechtsstaat en milieuduurzaamheid te beschermen tegen hoogrisico-AI”, aldus de EU. “Terwijl het innovatie bevordert en bedrijven de ruimte geeft om te gedijen en uit te breiden. De regels leggen verplichtingen op aan AI op basis van potentiële risico’s en impactniveaus.”

Deze nieuwe regels worden op dezelfde manier toegepast in alle EU-lidstaten, volgens dezelfde definitie van AI. Ze bekijken AI op een eenvoudige manier: als iets meer schade kan veroorzaken, zijn de regels strenger. Er zijn vier categorieën: minimaal risico, hoog risico, onacceptabel risico en specifiek transparantierisico.

De vier risicocategorieën

1. Minimaal risico: De overgrote meerderheid van AI-systemen valt in deze categorie Toepassingen met minimaal risico, zoals door AI geactiveerde aanbevelingssystemen of spamfilters, profiteren van vrijstellingen en afwezigheid van verplichtingen. Dat is omdat deze systemen slechts minimaal of geen risico vormen voor de rechten of veiligheid van burgers. Bedrijven kunnen echter op vrijwillige basis extra gedragscodes aannemen voor deze AI-systemen.
2. Hoog risico: AI-systemen geïdentificeerd als hoogrisico moeten voldoen aan strenge eisen, waaronder risicovermijdingssystemen, hoge kwaliteit van datasets, logboekregistratie, gedetailleerde documentatie, duidelijke gebruikersinformatie, menselijk toezicht én een hoog niveau van robuustheid, nauwkeurigheid en cyberbeveiliging.
3. Onacceptabel risico: AI-systemen die worden beschouwd als een duidelijke bedreiging voor de fundamentele rechten van mensen zullen worden verboden. Dit omvat emotieherkenningssystemen op de werkplek en onderwijsinstellingen, evenals biometrische categorisatiesystemen die gebruikmaken van gevoelige kenmerken.
4. Specifiek transparantie risico: Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat ze communiceren met een machine. Deepfakes en andere door AI-gegenereerde inhoud moeten als zodanig worden gelabeld. Gebruikers moeten ook op de hoogte worden gesteld wanneer biometrische categorisatie- of emotieherkenningssystemen worden gebruikt.

AI-tools voor recruitment onder ‘hoog risico’

Recruitment-tooling die gebruik maakt van AI wordt bestempeld met de tweede categorie, voor hoog risico. De regulering benadrukt specifiek recruitmentsystemen als risicovol, vanwege de persoonsgegevens die gebruikt worden. “Sommige systemen bepalen wie toegang krijgt tot scholen of wie wordt aangenomen. Andere worden gebruikt bij wetshandhaving, grenscontrole, rechtspraak en democratische processen. Biometrische systemen voor identificatie, categorisering en emotieherkenning worden ook als riskant beschouwd.”

‘Wees voorzichtig’

“Uitzendbureaus en werkgevers moeten er rekening mee houden dat zij zich stevig in het vizier van deze nieuwe regelgeving bevinden”, stelt John Nurthen, onderzoeker van Staffing Industry Analysts (SIA). “Wees voorzichtig in het gebruik van AI-technologie binnen het wervingsproces. Zorg ervoor dat uw leveranciers de juiste stappen volgen volgens de AI Act om risico’s te verminderen.”

“Zorg ervoor dat de software transparant is en dat er logboeken en technische documentatie beschikbaar zijn. AI-processen moeten altijd worden gecontroleerd door menselijke supervisie.”

Nurthen heeft een aantal tips voor organisaties. Dit omvat het nemen van controlemaatregelen en het gebruik van nauwkeurige trainingsdatasets zonder fouten en vooroordelen. “Zorg ervoor dat de software transparant is en dat er logboeken en technische documentatie beschikbaar zijn. AI-processen moeten altijd worden gecontroleerd door menselijke supervisie.”

Boetes tot 7,5 miljoen

Het transparantievraagstuk ligt dus óók bij de eindgebruiker, niet alleen bij de leverancier van de software. Bedrijven die zich niet aan de regels houden, kunnen boetes krijgen variërend van €35 miljoen of 7% van de wereldwijde omzet tot €7,5 miljoen, of 1,5% van de omzet, afhankelijk van de overtreding en de omvang van het bedrijf. “Door de veiligheid en fundamentele rechten van mensen en bedrijven te waarborgen, zal het de ontwikkeling, implementatie en acceptatie van betrouwbare AI in de EU ondersteunen”, concludeert Ursula von der Leyen, voorzitter van de Europese Commissie.

Meer weten over AI in Recruitment?

Meld je aan voor het AI in Recruitment Outlook 2024 evenement op 1 februari om de nieuwste cijfers, trends en inzichten te ontdekken over het gebruik van AI in talentacquisitie. Aan het evenement nemen experts, leveranciers en gebruikers deel, waaronder Martyn Redstone, Jasper Spanjaart en Martijn Hemminga. Meld je nu GRATIS aan!

Fotocredit: © European Union, 2023