Gebruik van AI bij aanwerving: niet zonder risico’s

Artificiële intelligentie (AI) wordt steeds meer toegepast in de HR praktijk, zeker in de aanwervingsfase. Welke risico’s levert dat op? Waar kan het mislopen? Welke juridische regelingen gelden hierbij?

Het gebruik van artificiële intelligentie en technologie op de werkvloer valt niet meer weg te denken en zal alleen nog maar toenemen. Denk aan het gebruik van algoritmes door platformen zoals Uber en Deliveroo, het monitoren van telewerkers aan de hand van toetsenbordaanslagen en/of screenshots, het verzamelen van (gezondheids)gegevens via wearables, het schrijven van teksten met behulp van ChatGPT, het gebruik van chatbots in het kader van sollicitaties en dergelijke meer.

AI kan worden ingezet in verschillende stadia van de arbeidsrelatie: voor de werving en selectie, tijdens de tewerkstelling (bijvoorbeeld om de werkdruk op te volgen, absenteïsme te monitoren en voorspellen, de efficiëntie en productiviteit te verbeteren) en zelfs bij ontslag. Hier gaan we dieper in op het gebruik van AI tijdens de aanwervingsfase en enkele risico’s die daarmee gepaard kunnen gaan.

Risico op ongelijke behandeling

Hoewel doorgaans het idee leeft dat het gebruik van AI tot meer objectieve en neutrale HR praktijken en beslissingen leidt, is dat niet steeds het geval. AI-systemen zijn immers nog altijd het product van hun menselijke programmeurs en worden meestal gevoed aan de hand van training data. Deze data zijn veelal gegevens uit het verleden, waardoor de kans groot is dat AI-systemen de biases of vooroordelen uit het verleden overnemen. Hoewel de intenties goed kunnen zijn, kan het aantal ongelijke behandelingen dus juist toenemen in plaats van verminderen.

Een voorbeeld hiervan is de rekruteringstool die Amazon had ontwikkeld. De tool gaf scores van 1 tot 5 sterren en gaf op die manier suggesties over de beste profielen. Het systeem werd getraind aan de hand van de cv’s die de afgelopen 10 jaar aan Amazon waren bezorgd en de aanwervingen die op basis daarvan waren gebeurd. Aangezien de meeste afkomstig waren van mannen, had het systeem zichzelf aangeleerd om mannelijke kandidaten ten opzichte van vrouwelijke kandidaten te bevoordelen. Amazon stelde vast dat – ook zonder dat het geslacht was meegedeeld – het gebruik van de term woman in een cv (zoals in women’s sports) werd afgestraft. Ook toen Amazon deze term had geneutraliseerd, bleek dat het gebruik van typische mannelijke woordenschat nog steeds aanleiding gaf tot een betere score.

Dit voorbeeld toont aan dat het gebruik van AI tot een ongelijke behandeling kan leiden, zelfs als dat zeker niet de bedoeling is. Bovendien zal de werkgever vaak geen idee hebben waarom het algoritme de ene kandidaat heeft verkozen boven de andere.

Risico voor bescherming van persoonsgegevens

Normaal gezien zal AI alleen worden gebruikt ter ondersteuning van HR, bijvoorbeeld om een voorselectie te maken uit duizenden cv’s en zo een eerste filtering te doen. Indien louter het AI-systeem beslist een kandidaat al dan niet aan te werven, komt dit neer op geautomatiseerde besluitvorming in de zin van artikel 22 van de Algemene Verordening Gegevensbescherming.

Dat artikel bepaalt dat een betrokkene het recht heeft om niet te worden onderworpen aan een volledig automatische beslissing zonder menselijke tussenkomst. Enkel in de volgende drie situaties is het toch toegestaan om geautomatiseerde besluitvorming toe te passen: als een wet dit toelaat, na toestemming van de betrokkene, of als dit noodzakelijk is voor de totstandkoming of de uitvoering van een overeenkomst. In zo’n geval moeten er wel passende maatregelen worden genomen om de rechten van de betrokkene te beschermen. Deze omvatten minstens het recht op menselijke tussenkomst, het recht om zijn standpunt kenbaar te maken en het recht om dit besluit aan te vechten.

Geautomatiseerde besluitvorming komt vaak voor in de platformeconomie. Denk maar aan het (tijdelijk) deconnecteren van chauffeurs zodra ze driemaal een rit weigeren uit te voeren of wanneer hun rating ondermaats is.

Tot slot mag ook het transparantiebeginsel niet uit het oog worden verloren. Het is essentieel om (kandidaat-)werknemers voorafgaandelijk te informeren over het feit dat AI wordt ingezet, voor welke doeleinden de via AI verkregen gegevens zullen worden gebruikt en hun recht om hier bezwaar tegen te uiten.

Europese Verordening omtrent AI

Het is ook de Europese Commissie niet ontgaan dat het gebruik van AI tijdens de aanwervingsfase verschillende risico’s met zich kan meebrengen. Het voorstel van de Europese Verordening omtrent AI (die wellicht pas in 2024 of 2025 in werking zal treden) classificeert de AI-systemen in vier risicocategorieën: onaanvaardbaar, hoog, beperkt of minimaal risico.

AI-systemen voor de aanwerving of selectie van werknemers zullen hoogstwaarschijnlijk als AI-systemen met een hoog risico worden gekwalificeerd. Dit impliceert dat deze zullen moeten voldoen aan bijkomende voorschriften en waarborgen, zoals de vereiste van menselijk toezicht.

Conclusie

Het gebruik van AI kan worden toegejuicht, aangezien het vele voordelen heeft. Tegelijkertijd is het wel van belang om zich bewust te zijn van de risico’s die hiermee gepaard gaan, niet het minst op het vlak van ongelijke behandeling en bescherming van persoonsgegevens. Het is in elk geval uitkijken naar toekomstige wetgevende initiatieven en de eerste (Belgische) rechtspraak hieromtrent.

+++

Lise-Marie Platteau is advocaat bij Claeys & Engels