AI in recruitment, een paar aandachtspunten uit de AI-verordening

De Europese AI-verordening is in augustus 2024 van kracht geworden, maar wat betekent dit nu precies voor het gebruik van AI in recruitment. In dit artikel wat aandachtspunten om juridisch en ethisch verantwoord gebruik te maken van AI in recruitment.

Al de nodige jaren wordt er in recruitment, oftewel werving- en selectie gebruik gemaakt van Artificial Intelligence (AI of KI). Vaak zijn gebruikers zich hiervan helemaal niet bewust, maar gelukkig stijgt dit bewustzijn, mede door de
komst van de AI-verordening. Wat zijn de belangrijkste wijzigingen waar recruiters rekening mee moeten houden. Allereerst is van belang dat de AI-verordening gefaseerd wordt ingevoerd.

Deze afbeelding is gegenereerd met DALL-E

Twee datums zijn bij de invoering van belang. De eerste is al geweest, namelijk 1 februari 2025 jl. moeten alle organisaties waar AI gebruikt wordt er voor
zorgen dat de medewerkers AI-geletterdheid ontwikkelen. Wat je daar onder moet verstaan is in een artikel van Noortje Lavrijssen besproken. In het kort komt
het erop neer dat je medewerkers ondermeer basiskennis van AI bijbrengt. Denk hierbij aan wat AI is en hoe het werkt, welke verschillende toepassingen er
zijn en voorbeelden van AI in het dagelijks leven. Maar ook medewerkers bewust maken van de kansen en risico’s, zowel juridisch als ethisch. Daarnaast moeten
medewerkers praktische vaardigheden trainen zoals hoe AI-tool te gebruiken. En natuurlijk kennis en bewustwording van wet- en regelgeving zoals de
AI-verordening, maar ook bijvoorbeeld de Algemene Verordening Gegevensbescherming als er persoonsgegevens verwerkt worden met een AI en de
ethische richtlijnen voor verantwoord AI gebruik.

Tenslotte ga je natuurlijk met je medewerkers ook het gesprek aan over de AI-toepassingen in de
werkomgeving en hoe AI kan bijdragen aan efficiëntie en innovatie. Het is niet een eenmalig iets maar een continu proces dat je in moet richten in de organisatie

De AI-verordening kent een risico systeem. Hoe hoger het risico, hoe meer eisen er gesteld worden aan de AI-toepassing. De AI-verordening wordt van toepassing op hoog risico AI-systemen per 1 augustus 2026. Bij hoog-risico systemen gaat het volgens bijlage III van de AI-verordening bijvoorbeeld over systemen die toegepast worden bij toegang tot werk of beoordeling van werknemers. Er is bij recruitment dus een behoorlijke kans dat een AI-toepassing een hoog-risico toepassing is. Maar niet alle AI-systemen die gebruikt worden in recruitment zijn een hoog-risico op grond van de AI-verordening.

Er is geen sprake van hoog risico wanneer:

  • Het AI-systeem bedoeld is om een smalle procedurele taak uit te voeren: bijvoorbeeld dubbele sollicitaties detecteren.
  • Het AI-systeem bedoeld is om het resultaat van eerder voltooide menselijke activiteiten te verbeteren: bijvoorbeeld de taal van documenten verbeteren die eerder door een mens zijn geschreven.
  • Het AI-systeem bedoeld is om besluitvormingspatronen of afwijkingen van eerdere besluitvormingspatronen te detecteren en niet bedoeld is om de eerder voltooide menselijke beoordeling te vervangen of te beïnvloeden, zonder juiste menselijke beoordeling: bijvoorbeeld inconsistenties vinden bij het plaatsen van sollicitanten.
  • Het AI-systeem bedoeld is om een voorbereidende taak uit te voeren voor een beoordeling die relevant is voor de doeleinden van de gebruiksscenario’s vermeld in Bijlage III: bijvoorbeeld verschillende datasets combineren in een wervingstraject.

Aan een hoog-risico AI-toepassing worden veel eisen gesteld. Het is dus van belang vast stellen of hier sprake van is of niet. Als je een AI-toepassing gebruikt om een sollicitant te scoren of deze wel of niet geschikt is voor een functie is er in ieder geval sprake van hoog-risico. Dit wordt in de praktijk veel toegepast. De eisen die de AI-verordening aan leverancier van een hoog-risico toepassing stelt zijn op hoofdlijnen:

  • Transparantie over de werking en informatie (zeg maar de bijsluiter) aan gebruikers over de werking.
  • Menselijke tussenkomst. In dit kader speelt naast de AI-verordening dan natuurlijk ook de AVG een rol die het verbiedt om mensen te onderwerpen aan profiling, oftewel volledige geautomatiseerde besluitvorming zonder menselijke tussenkomst (artikel 22 AVG).
  • Accuraatheid, robuustheid en cybersecurity van het systeem.
  • Kwaliteitsmanagementsysteem inrichten.
  • Conformiteitsassessment en CE-markering.

Maar waar moet je als gebruikers op letten? In ieder geval moet je de AI-toepassing gebruiken zoals het bedoeld is door de leverancier en conform de instructies (de bijsluiter zoals hiervoor genoemd). Daarnaast moet je passende technische en organisatorische maatregelen nemen dat medewerkers het systeem conform de instructies gebruiken, er menselijk toezicht is, en de gebruikers AI-geletterd zij. De input data moet gecontroleerd worden en het AI-systeem moet gemonitord worden. Functioneert het AI-systeem wel goed en blijft het dit doen. De logging van alle activiteiten speelt hierbij natuurlijk ook een rol. Betrokken sollicitanten moeten geïnformeerd worden over het gebruik van een AI-systeem en waarvoor dit ingezet wordt. De sollicitant moet ook de mogelijkheid hebben om inzicht te krijgen in bijvoorbeeld de beoordeling die het AI-systeem aan een sollicitant toekent in de zin van geschiktheid voor een functie. En tenslotte zul je voor het in selecteren en in gebruik nemen van een AI-systeem in recruitment een data protection impact assessment en een impact assessment mensenrechten moeten uitvoeren.

Nog een paar laatste take-aways. Als je wilt gaan werken met AI-toepassingen in recruitment, start met eenvoudige taken die veel efficiëntie opleveren bijvoorbeeld. Maar in ieder geval probeer niet alles in één keer op te lossen, doe het stap voor stap. Wat kan beter gedaan worden door een AI-systeem en pak dat aan. Zorg ervoor dat de data in het AI-systeem in Europa blijft.

Zie je kansen voor de ontwikkeling van een AI-systeem, misschien kunnen we je helpen in je project met het in kaart brengen van de juridische en ethische aspecten. Neem dan zeker direct contact met ons op, voor je een AI-toepassing gaat ontwikkelen. Vanaf het ontwerp moet je rekening houden met de juridische aspecten. Vergelijk het maar met privacy-by-design dat ook vanaf ontwerp tot ontwikkeling en implementatie een rol speelt.