AI Act: Mis deze belangrijke verandering niet!

AI Act: Mis deze belangrijke verandering niet!
Op 2 februari 2025 is de eerste grote stap gezet in de gefaseerde invoering van de AI Act. "De AI Act, vraagt u zich misschien af?". Tijd om daar eens wat nader naar te kijken. Het zal namelijk in veel organisaties op het bordje van de Privacy en Security Officers terechtkomen. Of dat terecht is, laten we even terzijde. Het is in ieder geval raadzaam dat er binnen de organisatie ook mensen naar de inzet van AI kijken. Zij zouden dit moeten doen met een andere insteek dan alleen kostenbesparing of het idee dat het een ‘leuk nieuw speeltje’ is. 

Met de AI Act loopt de EU voorop bij het invoeren van wetgeving die specifiek gericht is op het veilige gebruik van AI, met respect voor mensenrechten. Net als de AVG is de AI Act een verordening die in de hele EU direct van kracht is. Dit betekent dat de regels in de EU strenger zijn dan in de rest van de wereld.

De AI Act verdeelt AI-systemen in risicocategorieën; verschillende toepassingen van AI worden door de wet in risicoklassen ingedeeld en die bepalen aan welke voorwaarden moet worden voldaan. Er zijn in totaal vier risicoklassen: Onacceptabel, Hoog, Beperkt en Minimaal risico.

Per 2 februari 2025 is het verbod op AI-systemen die een onacceptabel risico vormen ingegaan. Daarmee zijn de volgende systemen verboden in te zetten in de EU:

• Manipulatieve of misleidende AI-systemen
• AI-systemen die kwetsbare groepen uitbuiten
• Social Scoring
• Voorspelling van crimineel gedrag
• Gezichtsherkenning op basis van scraping
• Realtime biometrische identificatie in openbare ruimtes
• Biometrisch categoriseren van personen om bijzondere persoonsgegevens uit af te leiden
• Emotieherkenning op de werkplek en in het onderwijs

AI-Geletterdheid: Zorg dat jouw medewerkers AI-proof zijn
Naast deze verboden stelt de AI Act ook eisen aan de kennis en vaardigheden van medewerkers die met AI werken. Organisaties moeten ervoor zorgen dat hun personeel begrijpt wat AI is, hoe het werkt en welke risico's eraan verbonden zijn. Dit wordt AI-geletterdheid genoemd.

Het niveau van AI-geletterdheid dat vereist is, hangt af van de specifieke taken van de medewerker. Zo zal een HR-medewerker die AI gebruikt voor het screenen van cv's, een andere opleiding nodig hebben dan een marketeer die AI inzet voor het genereren van content. Er zijn echter geen concrete wettelijke vereisten aan de opleiding, waardoor organisaties zelf moeten bepalen hoe ze aan deze verplichting voldoen. De Autoriteit Persoonsgegevens biedt hier wel een (enigszins hoogover) stappenplan voor aan.

Wat betekent dit voor de toekomst?
De AI Act markeert een belangrijke stap naar een ethischer en veiliger gebruik van AI. Hoewel de eerste fase van de wetgeving nu van kracht is, zullen er in de komende jaren nog meer regels en richtlijnen worden uitgewerkt. Zo gaan op 2 augustus 2026 de verplichtingen rondom hoog AI-systemen met een hoog risico in. Daarover in een later blog meer! 

Op de hoogte blijven van al het nieuws omtrent de AI-Act? Schrijf je dan nu in voor onze nieuwsbrief!