Sinds 2 februari 2025 zijn bepaalde AI-toepassingen binnen de Europese Unie verboden. De EU AI Act classificeert deze als AI-systemen met een onaanvaardbaar risico. Maar welke systemen zijn precies verboden, waarom en wat moet u doen als u er een gebruikt? In dit artikel geven we een compleet overzicht van alle verboden AI-praktijken.
Waarom verbiedt de EU bepaalde AI-systemen?
De EU AI Act is gebouwd op het principe dat AI-systemen veilig moeten zijn en grondrechten moeten respecteren. Sommige toepassingen van AI vormen echter een zodanig fundamentele bedreiging voor mensenrechten, democratie en de rechtsstaat dat geen enkele waarborg ze acceptabel kan maken. Deze systemen zijn daarom niet gereguleerd maar ronduit verboden.
Het verbod geldt sinds 2 februari 2025 — dit was de eerste verplichting die onder de AI Act van kracht werd. Overtredingen worden bestraft met de hoogste boetecategorie: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.
De verboden AI-praktijken in detail
Hieronder vindt u een volledig overzicht van de AI-systemen die onder de EU AI Act niet zijn toegestaan.
Sociale kredietsystemen
Artikel 5AI die personen scoort op basis van sociaal gedrag of persoonlijke kenmerken, met nadelige gevolgen op onverwante gebieden. Het verbod treft zowel overheidssystemen als bedrijfssystemen die scoren in een andere context dan waarin de data is verzameld.
Realtime biometrische identificatie
Artikel 5Live gezichtsherkenning op afstand in publiek toegankelijke ruimtes. Beperkte uitzonderingen voor rechtshandhaving (zoeken naar slachtoffers, voorkomen van een actuele terroristische dreiging, opsporen van zware verdachten) onder voorafgaande rechterlijke toestemming.
Emotieherkenning op werkplek en in onderwijs
Artikel 5AI die emoties van werknemers, leerlingen of studenten leest. Uitzondering voor medische of veiligheidsdoeleinden zoals vermoeidheidsdetectie of pijnmonitoring.
Manipulatieve en misleidende AI
Artikel 5Subliminale of misleidende technieken die gedrag beïnvloeden en aanzienlijke schade kunnen veroorzaken. Specifiek verboden: AI die kwetsbare groepen exploiteert vanwege leeftijd, handicap of sociaal-economische situatie.
Voorspellend politiewerk op profilering
Artikel 5AI die uitsluitend op basis van demografische kenmerken, uiterlijk, woonplaats of sociaaleconomische achtergrond het risico voorspelt dat iemand een delict pleegt. AI die helpt bij het analyseren van concreet bewijs in een lopend onderzoek is wel toegestaan.
Ongerichte gezichtsscraping
Artikel 5Gezichtsafbeeldingen ongericht verzamelen van het internet of CCTV om gezichtsherkenningsdatabases te bouwen.
Biometrische categorisatie op gevoelige kenmerken
Artikel 5AI die personen via biometrie categoriseert naar ras, politieke opvattingen, vakbondslidmaatschap, religie, seksleven of seksuele geaardheid.
Wat moet u doen als u verboden AI gebruikt?
Als u na het lezen van dit overzicht vaststelt dat uw organisatie een verboden AI-systeem gebruikt, moet u onmiddellijk actie ondernemen. Het verbod is immers al van kracht sinds februari 2025.
Stop direct met het gebruik van het betreffende systeem. Documenteer welk systeem het betreft en sinds wanneer het in gebruik was. Informeer uw leverancier dat u het gebruik beeindigt vanwege het AI Act-verbod. Controleer of er data is verzameld die onder het verbod valt en neem passende maatregelen. Leg alles vast in uw AI-register als bewijs van uw proactieve aanpak.
Praktische voorbeelden
Om het concreter te maken, hier enkele situaties uit de dagelijkse praktijk. Een retailbedrijf dat camera's met emotieherkenning inzet om het winkelgedrag van klanten te analyseren — dit systeem kan onder het verbod op biometrische categorisatie vallen afhankelijk van de exacte werking. Een HR-afdeling die AI-software gebruikt die op basis van gezichtsanalyse de persoonlijkheid van sollicitanten beoordeelt, maakt zich schuldig aan verboden biometrische categorisatie en mogelijk aan verboden emotieherkenning op de werkplek. Een marketingbedrijf dat AI inzet om specifiek ouderen of kinderen te manipuleren tot aankoopbeslissingen, overtreedt het verbod op manipulatieve AI.
Twijfelt u of uw AI-gebruik onder een van de verboden categorieen valt? De AI Risicoscanner van AIComplianceHub helpt u om dit snel vast te stellen. In vijf minuten krijgt u een helder beeld van de risicocategorie van elk AI-systeem dat u gebruikt. Mocht een systeem in de verboden categorie vallen, dan weet u direct welke stappen u moet nemen.