De AI Act trad op 1 augustus 2024 in werking en vanaf 2 augustus 2026 moeten de meeste verplichtingen door ondernemingen nageleefd worden. De eerste verplichtingen treden echter al op 2 februari 2025 in werking en hebben betrekking op het bevorderen van de AI-geletterdheid enerzijds en het verbieden van bepaalde AI-praktijken anderzijds.
Doel en toepassingsgebied
Met de AI Act beoogt de Europese Unie een uniform rechtskader te creëren voor de ontwikkeling, het in de handel brengen, het in gebruik stellen en het gebruik van AI-systemen. De AI Act wil de introductie van mensgerichte en betrouwbare AI (artificiële intelligentie) bevorderen en zorgen voor een hoge mate van bescherming van de gezondheid, de veiligheid en de grondrechten zoals opgenomen in het Handvest van de Europese Unie.
De AI Act is van toepassing op aanbieders die AI-systemen ontwikkelen en in de handel brengen, evenals op gebruiksverantwoordelijken (hierna: ‘gebruikers’) die van deze systemen gebruik maken. Indien je als werkgever gebruikmaakt van AI-systemen, bijvoorbeeld in het wervings- en selectieproces, dien je in het bijzonder rekening te houden met de verplichtingen voor gebruikers.
AI-geletterdheid
De eerste verplichting die vanaf 2 februari 2025 in werking treedt, is het verzekeren van een toereikend niveau van AI-geletterdheid. Het doel van AI-geletterdheid is om ervoor te zorgen dat iedereen die binnen de onderneming betrokken is bij AI-systemen, de vaardigheden en de kennis heeft om onderbouwde beslissingen te nemen en de systemen op een verantwoorde manier te gebruiken.
Bij het bepalen van de maatregelen om een toereikend niveau van AI-geletterdheid te waarborgen, moet rekening worden gehouden met:
- de technische kennis van het personeel, hun ervaring, onderwijs en opleiding;
- de context waarin de AI-systemen zullen worden gebruikt;
- de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
De AI Act specificeert niet welke maatregelen een werkgever moet nemen om een ‘toereikend’ niveau van AI-geletterdheid te bereiken.
Dit maakt het moeilijk om aan te tonen dat je voldoet aan deze verplichting, maar het biedt ook de kans om zelf te bepalen wat ‘toereikend’ is voor uw onderneming en werknemers. Het behoort echter tot de taken van de AI-office, een orgaan dat binnen de Europese Commissie werd opgericht als het centrum van AI-expertise, om hierover aanvullende informatie te verschaffen.
Ondernemingen die inzetten op het gebruik van AI-systemen doen er om die reden goed aan trainingen over AI-geletterdheid aan te bieden. Ook het implementeren van een uitgewerkte Responsible AI Use Policy draagt bij aan de AI-geletterheidsverplichting.
Bovendien moeten niet alle werknemers hetzelfde niveau van AI-geletterdheid bereiken. Het gaat niet om een ‘one size fits all’-verplichting, maar wel degelijk om maatwerk. Van iedereen die in aanraking komt met AI wordt verwacht dat zij de basisprincipes begrijpen, alsook verantwoord en kritisch kunnen omgaan met AI(-systemen). De naleving van deze verplichting is overigens een voortdurend en dynamisch proces.
Verboden AI-praktijken
Vanaf 2 februari 2025 verbiedt de AI Act een aantal onaanvaardbare praktijken op het gebied van AI. Het gaat om praktijken die in strijd zijn met de Europese fundamentele normen en waarden, zoals een schending van de grondrechten die zijn opgenomen in het Handvest van de Europese Unie.
Zo zijn onder meer de volgende AI-praktijken verboden:
- AI-systemen die subliminale technieken gebruiken waarvan personen zich niet bewust zijn of doelbewust manipulatieve of misleidende technieken toepassen. Dit omvat systemen die mensen ertoe aanzetten beslissingen te nemen die ze anders niet zouden nemen, wat kan leiden tot aanzienlijke schade;
- AI-systemen die gebruikmaken van de kwetsbaarheden van een persoon of een specifieke groep personen, zoals leeftijd of handicap, om hun gedrag wezenlijk te verstoren, wat kan leiden tot aanzienlijke schade;
- AI-systemen die mensen evalueren of classificeren op basis van hun sociale gedrag of persoonlijke kenmerken (“social scoring”), en die leiden tot een nadelige of ongunstige behandeling;
- AI-systemen die databanken aanleggen of aanvullen door ongerichte scraping van gezichtsafbeeldingen van het internet of camerabeelden;
- AI-systemen om emoties van een persoon op de werkplek of in het onderwijs uit af te leiden, tenzij dit gebeurt om medische of veiligheidsoverwegingen;
- …
De ondernemingen die verboden AI-praktijken ontwikkelen of gebruiken kunnen hiervoor administratieve geldboetes krijgen tot 35 miljoen euro, of tot 7% van hun totale wereldwijde jaarlijkse omzet, indien dat hoger is. Bij het opleggen van boetes aan kmo’s en start-ups wordt rekening gehouden met hun belangen en hun economische levensvatbaarheid en kan een lagere geldboete worden opgelegd.
AI-policy
De AI-office stimuleert het opstellen van gedragscodes of policies in verband met de toepassing van de bepalingen uit de AI Act. In een AI-policy kan de werkgever duidelijke richtlijnen opstellen voor het gebruik van AI binnen de onderneming. Er kan opgenomen worden welke AI-systemen door wie mogen gebruikt worden en in welke mate AI-systemen mogen toegepast worden in de functie van bepaalde werknemers. In de policy kan ook bepaald worden hoe het personeel voldoende AI-geletterd kan blijven.
TO DO
Vanaf 2 februari 2025 treden de eerste verplichtingen van de AI Act in werking. Breng daarom in kaart welke AI-systemen er binnen uw onderneming worden gebruikt. Kwalificeer deze AI-systemen en stop het gebruik van de AI-systemen met een onaanvaardbaar risico.
Breng vervolgens in kaart wat het niveau van AI-geletterdheid momenteel is in de onderneming en beoordeel welke aanvullende maatregelen nodig zijn (zoals trainingen, interne reglementen, …)
===
Goed om weten
Claeys & Engels werkt samen met Umaniq, pionier op het gebied van Data & AI Governance, Risk en Compliance. Samen bieden ze trainingen op maat aan om de AI-geletterdheid binnen uw organisatie te verhogen. Informatie hierover kan je vinden via deze link.