AI in werving en selectie: juridische randvoorwaarden en aandachtspunten

AP

Risico’s bij het gebruik van AI voor werving en selectie

Een recruitmentproces bestaat doorgaans uit verschillende fases waarin voortdurend selecties worden gemaakt, die steeds vaker geautomatiseerd zijn. Door de inzet van AI en algoritmes in dit proces kan het risico op bias hierin verweven raken en zelfs worden versterkt. Dit begint al bij het opstellen of verbeteren van een vacaturetekst waarbij organisaties gebruikmaken van generatieve AI. Door AI gegenereerde teksten kunnen immers vooringenomenheid bevatten, bijvoorbeeld omdat in de trainingsdata systematische historische bias is ingebed. Hoewel er op dit punt nog geen selectie plaatsvindt, kan toch al een vorm van (zelf)selectie ontstaan: niet alle potentiële kandidaten voelen zich mogelijk aangesproken door de vacaturetekst en reageren daarom niet.

Ook bij de verspreiding van vacatures worden AI en algoritmes ingezet. LinkedIn en Facebook gebruiken daarvoor gepersonaliseerde aanbevelingssystemen die de vacatures met werkzoekenden koppelen op basis van online profielen. Omdat deze systemen leren van data die maatschappelijke vooroordelen kan bevatten, bestaat het risico dat vacatures met een hogere status of technische functies bijvoorbeeld eerder aan mannen worden getoond dan aan vrouwen met vergelijkbare profielen. Het aanbevelingssysteem bepaalt daarmee welke vacatures iemand wel of mogelijk niet te zien krijgt, waardoor ook hier al een vorm van selectie plaatsvindt.

black box’

Kortom, in alle stappen van het wervings- en selectieproces brengt de inzet van AI en algoritmes risico’s met zich mee, zoals bias, discriminatie, uitsluiting en gebrek aan transparantie.

Randvoorwaarden voor de inzet van AI tijdens werving en selectie

AVG

Randvoorwaarden op grond van de AVG

Bij de inzet van AI en algoritmes in werving en selectie worden vrijwel altijd persoonsgegevens verwerkt. Daarmee is de AVG van toepassing, die vereist dat deze verwerking zorgvuldig, behoorlijk en transparant plaatsvindt. Organisaties doen er daarom goed aan om kritisch te kijken naar het gebruik van complexe en moeilijk uitlegbare AI-systemen. Wanneer dergelijke systemen het risico vergroten op discriminatie, onnavolgbare beslissingen of een wervingsproces dat afwijkt van wat sollicitanten redelijkerwijs mogen verwachten, kan dat op gespannen voet staan met de vereisten van de AVG. Bovendien moeten organisaties zorgvuldig beoordelen of het gebruik van AI daadwerkelijk passend en noodzakelijk is binnen het selectieproces. De AP signaleert namelijk dat AI-tools niet altijd duidelijk aansluiten bij functievereisten, bijvoorbeeld wanneer onvoldoende inzichtelijk is waarom een bepaald assessment relevant is voor een functie.

De AVG stelt bovendien grenzen aan geautomatiseerde besluitvorming. Besluiten die uitsluitend op basis van algoritmes worden genomen en die aanzienlijke gevolgen hebben voor sollicitanten, zijn in beginsel niet toegestaan, tenzij aan strikte voorwaarden is voldaan. Aan die voorwaarden zal in dit kader waarschijnlijk niet zomaar worden voldaan, omdat geautomatiseerde besluitvorming niet noodzakelijk lijkt voor de totstandkoming van een overeenkomst tussen een sollicitant en werkgever. Daarnaast zal toestemming van een sollicitant doorgaans geen geldige uitzonderingsmogelijkheid bieden. Door het machtsverschil met de werkgever zal een kandidaat zich immers niet altijd vrij voelen om toestemming te weigeren. Toestemming die niet vrijelijk is gegeven voldoet niet aan de strikte eisen die de AVG stelt.

Sollicitanten hebben in ieder geval het recht om te weten of sprake is van geautomatiseerde besluitvorming en om uitleg te krijgen over de totstandkoming van een besluit dat hen raakt. Die uitleg moet begrijpelijk en herleidbaar zijn, wat in de praktijk lastig kan zijn bij complexe of moeilijk uitlegbare AI-systemen. Organisaties moeten daarom kunnen toelichten hoe een beoordeling of uitkomst tot stand is gekomen. Daarnaast hebben sollicitanten op grond van de AVG recht op betekenisvolle menselijke tussenkomst bij algoritmische besluiten die hen raken en gevolgen voor hen hebben.

Randvoorwaarden op grond van de AI-verordening

AI-verordening

Aanbieders van AI-systemen moeten zich tijdig voorbereiden op certificeringseisen en mogen hun systemen pas aanbieden of gebruiken wanneer zij voldoen aan eisen rondom nauwkeurigheid en het voorkomen en beperken van discriminatierisico’s. Voor organisaties die deze systemen inzetten, geldt onder meer een transparantieverplichting richting sollicitanten. Kandidaten moeten vooraf weten of en hoe AI en algoritmes worden gebruikt, hoe de procedure verloopt en op basis van welke criteria zij worden beoordeeld. Wanneer sollicitanten direct met AI interacteren, bijvoorbeeld via een chatbot, moet dit vanaf 2 augustus 2026 expliciet kenbaar worden gemaakt.

Daarnaast introduceert de AI-verordening de verplichting tot AI-geletterdheid. Voor mensen die binnen werving en selectie met AI werken, is AI-geletterdheid een belangrijke voorwaarde om geïnformeerde keuzes te maken, bijvoorbeeld wanneer een systeem kandidaten aanbeveelt. Daarom moeten organisaties sinds februari 2025 zorgen dat deze medewerkers beschikken over voldoende kennis en begrip van zowel de technische werking als de sociale en ethische risico’s. Dit is essentieel om de uitkomsten van AI-systemen in werving- en selectieprocedures kritisch te kunnen beoordelen en om effectief menselijk toezicht te waarborgen.

Bovendien zijn sinds februari 2025 onder de AI-verordening een aantal AI-systemen verboden. In het kader van werving en selectie gaat het dan bijvoorbeeld om systemen voor emotieherkenning op de werkplek. Denk aan een tool die claimt te kunnen zien of een kandidaat liegt door gezichtsuitdrukkingen te analyseren tijdens een sollicitatiegesprek. Dergelijke systemen mogen sindsdien niet meer worden aangeboden en gebruikt.

Tot slot

De inzet van AI en algoritmes kan het wervings- en selectieproces efficiënter maken, maar vergroot ook het risico op bias, gebrek aan transparantie en moeilijk uitlegbare beslissingen. Omdat AI in verschillende fases van het recruitmentproces wordt ingezet – van het opstellen van vacatureteksten tot cv-screening en selectie – kunnen deze risico’s zich opstapelen. Tegelijkertijd stellen de AI-verordening en AVG duidelijke randvoorwaarden aan het gebruik van AI (binnen recruitment). Organisaties moeten transparant zijn over het gebruik van AI, zorgen voor menselijk toezicht en voorkomen dat belangrijke beslissingen volledig geautomatiseerd plaatsvinden.

Voor organisaties die AI willen inzetten in werving en selectie is het daarom essentieel om niet alleen naar de technische mogelijkheden te kijken, maar ook naar de juridische en ethische kaders en de impact op kandidaten. Daarbij zijn de volgende aandachtspunten essentieel:

Gebruik AI alleen wanneer dit passend en noodzakelijk is voor het wervings- en selectieproces;

Wees transparant naar sollicitanten over wanneer en hoe AI in het proces wordt gebruikt;

Let op bias en datakwaliteit, zodat bestaande vooroordelen niet worden versterkt;

Zorg voor betekenisvolle menselijke tussenkomst, zeker bij beslissingen die grote impact (kunnen) hebben op kandidaten;

Investeer in AI-geletterdheid van medewerkers die met AI-systemen werken;

Houd rekening met de AI-verordening en de AVG die aanvullende verplichtingen stellen aan het gebruik van AI in wervings- en selectieprocedures.