Bias in AI: waar moeten we op letten wanneer we AI gebruiken in HR?

Op donderdag 14 november 2024 vond het Vocap-event ‘AI tools in HR’ plaats, een inspirerende bijeenkomst die de impact van AI op de HR-sector onder de loep nam. Het evenement werd gehouden in Brussels Airport Compass, waar we samenkwamen om meer te leren over de toepassingen en uitdagingen van AI in HR.

In de voormiddag was het de beurt aan Dr. Juul Vossen, die eerder dit jaar promoveerde aan de Vrije Universiteit met een onderzoek naar visuele netwerkvoorstellingen van het psychologisch contract tussen werkgever en werknemer. Dit onderzoek levert niet alleen een wetenschappelijke bijdrage, maar doet ook een belangrijke oproep: maak tijdens het aanwervingsproces expliciet wat beide partijen van elkaar verwachten. Een visuele weergave van wat werkgever en werknemer verbindt – of juist niet – kan dat gesprek aanzienlijk vergemakkelijken. Achter deze netwerkvoorstelling schuilt een complexe wiskundige verwerking van de input van beide partijen. Kortom, Juul is een echte cijferliefhebber en daarmee de perfecte persoon om uit te leggen wat er achter de schermen van AI-systemen gebeurt voordat we de resultaten van onze prompts te zien krijgen.

Het gebruik van AI, ook in ons vakgebied, groeit explosief. Juul gaf ons inzicht in hoe bias ontstaat in de antwoorden van AI-systemen door ons mee te nemen in hun opbouw en leergeschiedenis. Dit helpt ons begrijpen waarom we altijd kritisch moeten blijven bij het interpreteren van AI-antwoorden.

Een sprekend voorbeeld is de Amazon-case. Amazon verwerkt enorme aantallen cv’s. Kan een AI-systeem op basis van vooraf vastgestelde rekruteringscriteria een eerste selectie maken? Het antwoord is ja. Maar het systeem bleek te zijn getraind op een database van de afgelopen tien jaar, waarin vrouwen in technische functies ondervertegenwoordigd waren. Het resultaat? Bij de selectie kregen mannelijke kandidaten de voorkeur boven vrouwelijke.

In dit geval wisten we waar de bias (genderbias) vandaan kwam. Dat is een voordeel. Maar achter elke beslissing van een AI-systeem schuilen complexe berekeningen en criteria die voor ons als gebruikers vaak onbekend zijn. Dit gebrek aan transparantie – het “black box”-principe – maakt dat we voorzichtig moeten blijven.

Daarom geldt het volgende uitgangspunt: AI-systemen zijn ondersteunend aan de expert, niet vervangend. Gelukkig maar, want dat betekent dat wij als professionals nog steeds een belangrijke rol hebben.

Toegegeven, AI staat nog in de kinderschoenen vergeleken met wat we in de toekomst mogen verwachten. Maar juist daarom is het essentieel om nu al kritisch te blijven en te blijven leren over de mogelijkheden en beperkingen ervan.

Recente toepassingen, behalve bij selectie van kandidaten, zijn bv. analyse en rapportering van exitgesprekken; prestatiebeheer en ontwikkeling; welzijn en mentale gezondheid op het werk; automatisering van administratieve HR-processen.

Met zijn heldere en rijk geïllustreerde presentatie wist Dr. Vossen de aanwezigen een scherp inzicht te geven in de werking van AI-systemen. Hij liet zien dat deze systemen – zelfs wanneer ze als taalmodellen worden gebruikt – in essentie gebaseerd zijn op complexe rekenmodellen. Verschillende rekenmodellen hanteren andere optimalisatiecriteria, wat verklaart waarom ze uiteenlopende antwoorden kunnen geven op dezelfde vraag. In sommige gevallen leidt dit zelfs tot hallucinaties: antwoorden die gebaseerd zijn op onjuiste aannames of volledig verzonnen gegevens, zoals fictieve onderzoeksresultaten.

Dr. Vossen belichtte ook de klassieke oorzaken van bias in AI-systemen, waaronder:

  • Niet-representatieve trainingsdata: De observaties waarmee een model wordt getraind, komen niet overeen met de data waarmee gebruikers het systeem nadien voeden.
  • Overfitting aan trainingsdata: Het model leert nuances die specifiek zijn voor de trainingsdata, maar die niet relevant zijn voor de gebruikersdata. Dit kan gebeuren door te weinig trainingsobservaties, een model dat te veel parameters gebruikt tijdens en na het trainen, of onvoldoende validatie na de training.

Een belangrijk probleem hierbij is het gebrek aan transparantie. Voor gebruikers is het vaak onzichtbaar hoe het model zijn keuzes maakt, waardoor de risico’s op bias en hallucinaties extra zorgwekkend worden. Dr. Vossen onderstreepte daarom het belang van kritisch omgaan met AI-systemen, zowel tijdens ontwikkeling als in het gebruik.

Vandaar enkele suggesties:

Afbeelding1

Juul Vossen is sinds kort Senior Data Science Consultant bij EY en besprak ook de resultaten van enkele van zijn (eerste) onderzoeken van cv screening.

Juul Vossen 3

Dankzij zijn volledige controle over de input en output van AI-systemen, kan Dr. Vossen nauwkeurig analyseren welke fouten (zoals bias) deze systemen maken. Op basis daarvan adviseert hij bedrijven over het zorgvuldige en effectieve gebruik van toepassingen zoals ChatGPT in hun processen.

Tijdens de interactieve nabespreking bleek dat vrijwel alle aanwezigen AI-systemen regelmatig inzetten, vaak meerdere keren per week. Veelgebruikte toepassingen zijn:

  • Samenvatten, vertalen en verbeteren van teksten, zodat deze leesbaarder en aantrekkelijker worden.
  • Persoonlijke coaching, zoals het ondersteunen bij loopbaan- of efficiëntiebeslissingen.
  • Gezondheidsmonitoring, bijvoorbeeld door gegevens uit wearables te gebruiken om de impact van een aandoening zoals migraine te verminderen.

Een opmerkelijk voorbeeld kwam van een groot ingenieursbedrijf, dat al hun documentatie via een AI-systeem beschikbaar heeft gemaakt op hun intranet. Hiermee bevorderen zij wereldwijd de toegang tot hun kennis en ervaring, wat bijdraagt aan betere samenwerking en efficiëntie.

Deze uiteenlopende toepassingen illustreren hoe veelzijdig en persoonlijk AI kan worden ingezet, maar ook hoe belangrijk het is om bewust om te gaan met de mogelijkheden en beperkingen ervan.

Wat hebben we nodig om AI intensiever in ons werk te integreren?

  • Identificatie van relevante processen: HR speelt een sleutelrol bij het bepalen waar AI effectief kan worden ingezet. Dit betekent inzicht krijgen in processen waar AI tijd kan besparen en kwaliteit kan verbeteren, maar ook erkennen waar AI minder nuttig is. Een goed begrip van de beperkingen en voordelen is hierbij essentieel.
  • Creatieve experimenten: AI kan dienen als een ‘proeftuin’ om nieuwe toepassingen te testen en te optimaliseren. Dit biedt de mogelijkheid om innovatie in HR in onze organisaties te stimuleren
  • Infrastructuur en expertise: Om AI-systemen optimaal te benutten, is er voldoende budget nodig voor krachtige servers en infrastructuur. Daarnaast is het cruciaal om medewerkers aan te wijzen die dagelijks verantwoordelijk zijn voor het verwerken en analyseren van grote hoeveelheden data. Deze expertise is onmisbaar voor de training en validatie van AI-modellen.
  • Heldere richtlijnen: Een duidelijk kader is nodig om de implementatie en het gebruik van AI binnen de organisatie te reguleren. Dit kader biedt houvast en zorgt ervoor dat AI op een consistente, efficiënte en ethische manier wordt toegepast. Het NIP bracht een tweetal jaar geleden een “eisenbundel” uit t.o.v. het gebruik van AI bij selectie (net om bias zoveel als mogelijk te voorkomen). Ook de APA liet zich niet onbetuigd: What psychologists need to know about the evolution of generative AI

Door deze stappen te volgen, kan AI niet alleen de efficiëntie verhogen, maar ook nieuwe mogelijkheden creëren binnen de organisatie.

Dit artikel werd geschreven door Caroline Franck, VOCAP

+++

Meer over VOCAP

VOCAP verenigt arbeids – en organisatiepsychologen (a&o) en alle professionals die te maken hebben met de organisatorische én menselijke kant van organisaties. Wij maken de connectie tussen de wetenschap en de praktijk. Daarnaast treden we ook op als erkende beroepsvereniging voor arbeids- en organisatiepsychologen en zijn het eerste aanspreekpunt voor alle A&O gerelateerde vragen.

VOCAP is lid van EAWOP (European Association of Work and Organizational Psychology) en de Belgische Federatie van Psychologen (BFP). Deze Federatie overkoepelt vijf verschillende verenigingen van psychologen:

  1. BAPS (Belgian Association for Psychological Sciences),
  2. VOCAP (Vereniging van Organisatie,- Consumenten en Arbeidspsychologie),
  3. VVKP (Vlaamse Vereniging van Klinisch Psychologen),
  4. VVSP (Vlaamse Vereniging voor Schoolpsychologie),
  5. UPPCF (Beroepsvereniging van Frans- en Duitstalige klinisch psychologen).

💡Bekijk de HR events van VOCAP

Schrijf je in op de wekelijkse HR-nieuwsbrief

Ook interessant

LEES MEER