In de tweede aflevering van seizoen twee van Succesvol Werven met AI, de podcast van RecruitmentTech.nl in samenwerking met Ubeeo, schuift Inge Brattinga aan bij hosts Martijn Hemminga en Leon Buijsman. De jurist en onderzoeker aan de Juridische Hogeschool Avans-Fontys legt uit waarom ‘kan niet, mag niet’ de verkeerde reflex is, wat je vooral niet in ChatGPT moet gooien, en waar in het recruitmentproces de EU AI Act écht om de hoek komt kijken.
‘Zoek naar hoe kan het wél’
Maar te beginnen met iets positiefs: wat Brattinga stoort, is de kramp die ze om zich heen ziet zodra het over regelgeving gaat. “Ze zeggen bij de AVG weleens: kan niet, mag niet. En nu is het kan niet, mag niet van de AI-verordening. Dat is gewoon smaak nummer twee geworden. En dat is denk ik niet de bedoeling.”
Haar aanpak is een andere. Toen de AVG werd ingevoerd, kreeg ze recruiters over de vloer die zeiden dat ze hun werk niet meer konden doen. “Dan zeg ik: heb je echt nagedacht over wat je proces is, welke regels we daaromheen stellen en hoe we kunnen zorgen dat die regels in dat proces passen? En als het echt niet kan, zeg ik dat ook. Maar ga wel zoeken naar hoe kan het wél.”
‘Wetgeving is niet dichtgetimmerd’
Dat de EU AI Act niet tot achter de komma is dichtgetimmerd, ziet ze eerder als kracht dan als gebrek. “Als je wetgeving zo dicht wilt timmeren dat je honderd procent afdekt, kan niemand er meer mee werken. Voorspellen is sinds eind 2022 sowieso lastiger geworden. Mijn glazen bol is een stuk diffuser geworden.”
AI is niet nieuw
Een deel van de onrust komt volgens Brattinga doordat we ineens ‘AI’ zijn gaan roepen tegen iets wat er allang was. Matchingtechnologie bestaat immers veel langer dan ChatGPT. “Dat was het altijd al. Maar omdat het als AI-systeem in de wet terecht is gekomen, noemen we het nu AI. AI komt uit de jaren 50. Dat is al best wel oud.”
De hosts herkennen het. In het eerste seizoen schoven al gasten aan van matchingspecialist Actonomy en assessmentbedrijf Ixly. “De software die recruiters dagelijks gebruikten, draaide allang op AI zonder dat iemand er wakker van lag”, aldus Hemminga.
‘Weet waar je mee werkt’
Precies daar ligt volgens Brattinga de kern van AI-geletterdheid, een begrip dat letterlijk in de AI-verordening staat. “Hoelang heeft die recruiter niet een systeem gebruikt waarvan hij geen idee had dat er AI onder zat? En dat heeft ook gewerkt. Dus voordat we met z’n allen denken: help.”
“Het komt regelmatig voor dat een medewerker een goed idee door een AI-tool laat schrijven. En je briljante idee ligt ergens bij iemand anders.”
De belangrijkste vuistregel is simpel. “In ChatGPT, Claude en Gemini gooi je geen persoonsgegevens en geen bedrijfsgevoelige gegevens. Het komt regelmatig voor dat een medewerker een goed idee door een AI-tool laat schrijven. En je briljante idee ligt ergens bij iemand anders. Weg, briljant idee.”
Persoonsgegevens in LLM? ‘Niet doen’
Ook de geruststelling dat een betaalde versie of een eigen Copilot-omgeving alles veilig maakt, wuift ze weg. “Er is net naar buiten gekomen dat als je de instellingen van Copilot niet goed hebt staan en continu controleert, je hele handel nog steeds in Amerika zit. Mijn advies voor persoonsgegevens in een commercieel gehoste LLM is: niet doen.”
Waar AI juist prima kan helpen: vacatureteksten herschrijven, beeld maken en online onderzoek doen. “Als je daar goed mee omgaat, heeft niemand daar last van.”
Vraag geen paspoort via WhatsApp
Verantwoord omgaan met data geldt net zo goed voor de kandidaat, vindt Brattinga. Ze ergert zich aan hoe achteloos gevoelige documenten worden rondgestuurd. “Het is heel gebruikelijk dat een kandidaat gewoon een kopie van zijn paspoort in de WhatsApp zet. Want dat wordt gevraagd en ik wil die baan.”
“Ik vind dat je als professionele werkgever die vraag überhaupt niet moet stellen. Maak dan een portal.”
De verantwoordelijkheid legt ze bij de organisatie. “Ik vind dat je als professionele werkgever die vraag überhaupt niet moet stellen. Maak dan een portal.”
Ook soms een AVG-verhaal
Zodra AI meebeslist wie wél en niet wordt uitgenodigd, verandert het speelveld. Dat is geautomatiseerde besluitvorming en volgens Brattinga in de eerste plaats een AVG-verhaal. “Dan moet je iemand informeren, want ik moet er bezwaar tegen kunnen maken. En jij moet als recruiter kunnen uitleggen waarom de een er wel uitkomt en de ander niet.”
“Zorg dat die geautomatiseerde besluitvorming eruit is. Twee documenten naast elkaar leggen en de overlap markeren is juist wél zinvol.”
Kandidaten van 1 tot 5 ranken en daarop selecteren is uit den boze. “Zorg dat die geautomatiseerde besluitvorming eruit is. Twee documenten naast elkaar leggen en de overlap markeren is juist wél zinvol.”
Selectie is hoog risico, de meeste tools niet
In de EU AI Act valt werving en selectie in de categorie hoog risico. “Toegang tot werk is een grondrecht. Doe je dat met AI, dan zit je in het hoog risico.” Datzelfde geldt bij promoties of ontslag. Maar dat raakt lang niet alles. “Een vacaturetekst, data-analyse: lekker gebruiken. Binnen hoog risico draait het uiteindelijk om menselijk toezicht: regelmatig controleren of het systeem het nog goed doet.”
De black box van Indeed
Waar transparantie in theorie de oplossing is, botst het in de praktijk. Rond Indeed en direct-apply gaan kandidaatgegevens rechtstreeks het systeem in en wat daarna gebeurt is nauwelijks te volgen. “Het is gewoon een black box”, stelt Brattinga. Het antwoord van zulke platformen is namelijk altijd hetzelfde: daar ben je zelf mee akkoord gegaan. “Dan is transparantie ineens nutteloos geworden.”
Dat de invoering van de verordening wordt uitgesteld en afgezwakt, baart haar zorgen. “Dan neem je gewoon nog meer tijd om slechte AI op de markt te proppen.”
