Welke AI-systemen zijn verboden onder de EU AI Act? Het korte antwoord: acht praktijken, sinds 2 februari 2025, en vanaf 2 december 2026 komen daar twee bij. Ze staan in Artikel 5 en kennen geen overgangstermijn en geen conformiteitsroute. Wie zo'n systeem gebruikt, moet ermee stoppen. De boete loopt op tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.
Waarom verbiedt de EU bepaalde AI-systemen?
De EU AI Act is gebouwd op het principe dat AI-systemen veilig moeten zijn en grondrechten moeten respecteren. Sommige toepassingen van AI vormen echter een zodanig fundamentele bedreiging voor mensenrechten, democratie en de rechtsstaat dat geen enkele waarborg ze acceptabel kan maken. Deze systemen zijn daarom niet gereguleerd maar ronduit verboden.
Het verbod geldt sinds 2 februari 2025. Dat was de eerste verplichting die onder de AI Act van kracht werd. Overtredingen worden bestraft met de hoogste boetecategorie: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.
De verboden AI-praktijken in detail
Hieronder vindt u een volledig overzicht van de AI-systemen die onder de EU AI Act niet zijn toegestaan.
Sociale kredietsystemen
Artikel 5AI die personen scoort op basis van sociaal gedrag of persoonlijke kenmerken, met nadelige gevolgen op onverwante gebieden. Het verbod treft zowel overheidssystemen als bedrijfssystemen die scoren in een andere context dan waarin de data is verzameld.
Realtime biometrische identificatie
Artikel 5Live gezichtsherkenning op afstand in publiek toegankelijke ruimtes. Het verbod geldt alleen wanneer dit gebeurt ten behoeve van rechtshandhaving. Binnen die scope bestaan limitatieve uitzonderingen (zoeken naar slachtoffers, voorkomen van een actuele terroristische dreiging, opsporen van zware verdachten) onder voorafgaande rechterlijke toestemming.
Emotieherkenning op werkplek en in onderwijs
Artikel 5AI die emoties van werknemers, leerlingen of studenten leest. Uitzondering voor medische of veiligheidsdoeleinden zoals vermoeidheidsdetectie of pijnmonitoring.
Manipulatieve en misleidende AI
Artikel 5Subliminale of misleidende technieken die gedrag beïnvloeden en aanzienlijke schade kunnen veroorzaken. Specifiek verboden: AI die kwetsbare groepen exploiteert vanwege leeftijd, handicap of sociaal-economische situatie.
Voorspellend politiewerk op profilering
Artikel 5AI die uitsluitend op basis van demografische kenmerken, uiterlijk, woonplaats of sociaaleconomische achtergrond het risico voorspelt dat iemand een delict pleegt. AI die helpt bij het analyseren van concreet bewijs in een lopend onderzoek is wel toegestaan.
Ongerichte gezichtsscraping
Artikel 5Gezichtsafbeeldingen ongericht verzamelen van het internet of CCTV om gezichtsherkenningsdatabases te bouwen.
Biometrische categorisatie op gevoelige kenmerken
Artikel 5AI die personen via biometrie categoriseert naar ras, politieke opvattingen, vakbondslidmaatschap, religie, seksleven of seksuele geaardheid.
Twee nieuwe verboden per 2 december 2026
De Digital Omnibus (Verordening (EU) 2026/1744, in werking sinds 27 juli 2026) voegt twee categorieën toe aan Artikel 5. Vanaf 2 december 2026 zijn het er tien in plaats van acht.
Nudifiers. AI-systemen die zonder toestemming realistische beelden, video, audio of soortgelijk materiaal genereren of manipuleren van de intieme delen van een identificeerbaar persoon, of van zo iemand die expliciete seksuele gedragingen verricht (Artikel 5 lid 1 onder b bis). Het raakt zowel aanbieders als gebruiksverantwoordelijken.
AI-gegenereerd kindermisbruikmateriaal. Systemen die materiaal genereren of manipuleren in de zin van artikel 2, punten c) en e), van Richtlijn 2011/93/EU zijn verboden (Artikel 5 lid 1 onder b ter).
Voor beide geldt geen overgangsregeling voor bestaande systemen: op 2 december 2026 moet u eraan voldoen.
Wat moet u doen als u verboden AI gebruikt?
Als u na het lezen van dit overzicht vaststelt dat uw organisatie een verboden AI-systeem gebruikt, moet u onmiddellijk actie ondernemen. Het verbod is immers al van kracht sinds februari 2025.
Stop direct met het gebruik van het betreffende systeem. Documenteer welk systeem het betreft en sinds wanneer het in gebruik was. Informeer uw leverancier dat u het gebruik beëindigt vanwege het AI Act-verbod. Controleer of er data is verzameld die onder het verbod valt en neem passende maatregelen. Leg alles vast in uw AI-register als bewijs van uw proactieve aanpak.
Praktische voorbeelden
Om het concreter te maken, hier enkele situaties uit de dagelijkse praktijk. Neem een retailbedrijf dat camera's met emotieherkenning inzet om het winkelgedrag van klanten te analyseren. Afhankelijk van de exacte werking kan dat systeem onder het verbod op biometrische categorisatie vallen. Een HR-afdeling die AI-software gebruikt die op basis van gezichtsanalyse de persoonlijkheid van sollicitanten beoordeelt, maakt zich schuldig aan verboden biometrische categorisatie en mogelijk aan verboden emotieherkenning op de werkplek. Een marketingbedrijf dat AI inzet om specifiek ouderen of kinderen te manipuleren tot aankoopbeslissingen, overtreedt het verbod op manipulatieve AI.
Valt een systeem niet onder de verboden praktijken, dan is de volgende vraag of het hoog-risico is. Hoe u dat bepaalt via Artikel 6 en Bijlage III leest u in is uw AI-systeem hoog-risico.
Veelgestelde vragen
Geldt het verbod op emotieherkenning ook voor klanten?
Nee. Artikel 5 verbiedt emotieherkenning specifiek op de werkplek en in het onderwijs. Emotieherkenning bij klanten valt daar niet onder, maar is daarmee niet vrij: het raakt al snel biometrische categorisatie, en onder de AVG gaat het om bijzondere persoonsgegevens. Reken dus niet op de smalle reikwijdte van het verbod als vrijbrief.
Mag ik gezichtsherkenning gebruiken voor toegangscontrole?
Dat is geen verboden praktijk. Het verbod op realtime biometrische identificatie op afstand geldt alleen in publiek toegankelijke ruimtes en alleen ten behoeve van rechtshandhaving. Toegangscontrole op uw eigen terrein met instemming van de betrokkene valt erbuiten. Het systeem is dan wel biometrie onder de AVG, en bij toegang tot de werkplek vaak hoog-risico onder Bijlage III.
Wat als mijn leverancier zegt dat het systeem is toegestaan?
De verantwoordelijkheid voor de inzet blijft bij u. Vraag om een schriftelijke onderbouwing waarin de leverancier per Artikel 5-categorie uitlegt waarom het systeem er niet onder valt. Krijgt u die niet, dan is dat op zichzelf een signaal. Leg het antwoord vast in uw AI-register.
Is een chatbot die klanten overtuigt manipulatieve AI?
Normaal verkopen valt er niet onder. Het verbod raakt subliminale of misleidende technieken die het gedrag wezenlijk verstoren en aanzienlijke schade kunnen veroorzaken, of die kwetsbaarheid door leeftijd, handicap of sociaal-economische situatie uitbuiten. Een chatbot die eerlijk informeert en verkoopt, blijft daarbuiten. Een chatbot die schaarste voorwendt richting mensen met schulden, komt in de gevarenzone.
Wie handhaaft het verbod in Nederland?
De nationale toezichthouders kunnen sinds 2 augustus 2025 boetes opleggen. In de concept-Uitvoeringswet AI-verordening zijn de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur aangewezen als coördinerende toezichthouders, met sectorale toezichthouders daarnaast. Die wet is nog niet definitief.
Twijfelt u of uw AI-gebruik onder een van deze categorieën valt? De gratis risicoscan geeft in vijf minuten de risicocategorie per systeem, met de stappen die daarbij horen.