Welke AI-systemen zijn verboden onder de EU AI Act? Het korte antwoord: acht praktijken sinds 2 februari 2025. Vanaf 2 december 2026 komen daar twee bij. Ze staan in Artikel 5 en moeten meteen uit gebruik, zonder overgangstermijn en zonder conformiteitsroute. De AI Act-boete loopt op tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, waarbij het hoogste bedrag geldt (Artikel 99, lid 3).
Waarom verbiedt de EU bepaalde AI-systemen?
De EU AI Act is gebouwd op het principe dat AI-systemen veilig moeten zijn en grondrechten moeten respecteren. Sommige toepassingen vormen zo'n fundamentele bedreiging voor mensenrechten, democratie en de rechtsstaat dat geen enkele waarborg ze acceptabel kan maken. Die systemen zijn verboden.
Het verbod geldt sinds 2 februari 2025. Samen met de plicht tot AI-geletterdheid uit Artikel 4 was dit het eerste deel van de AI Act dat van toepassing werd. De verordening zet hier de hoogste boetecategorie op: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, waarbij het hoogste bedrag geldt (Artikel 99, lid 3). De sancties zelf komen uit nationaal recht (Artikel 99, lid 1). Nederland heeft die nog niet vastgesteld.
De verboden AI-praktijken in detail
Het verbod op deze acht praktijken, de punten a) tot en met h) van Artikel 5, lid 1, geldt sinds 2 februari 2025. Hieronder staan ze in zeven groepen; punt a) en punt b) zijn samengenomen.
Sociale scoring
Artikel 5, lid 1, onder c)AI die personen scoort op basis van sociaal gedrag of persoonlijke kenmerken, met nadelige gevolgen op onverwante gebieden. Het verbod treft zowel overheidssystemen als bedrijfssystemen die scoren in een andere context dan waarin de data is verzameld.
Realtime biometrische identificatie
Artikel 5, lid 1, onder h)Live gezichtsherkenning op afstand in publiek toegankelijke ruimtes. Het verbod geldt alleen wanneer dit gebeurt ten behoeve van rechtshandhaving. Binnen die scope bestaan limitatieve uitzonderingen (zoeken naar slachtoffers, voorkomen van een actuele terroristische dreiging, opsporen van zware verdachten). Die gelden alleen als een lidstaat ze in nationaal recht regelt, met vooraf toestemming van een gerechtelijke of onafhankelijke administratieve instantie (Artikel 5 lid 3 en lid 5).
Emotieherkenning op werkplek en in onderwijs
Artikel 5, lid 1, onder f)AI die emoties van werknemers, leerlingen of studenten leest. Uitzondering voor medische of veiligheidsdoeleinden zoals vermoeidheidsdetectie of pijnmonitoring.
Manipulatieve en misleidende AI
Artikel 5, lid 1, onder a) en b)Subliminale of doelbewust manipulatieve of misleidende technieken die het gedrag wezenlijk verstoren doordat ze het vermogen om een geïnformeerd besluit te nemen merkbaar belemmeren, met aanzienlijke schade als gevolg of als redelijk waarschijnlijk gevolg. Punt b) verbiedt daarnaast het uitbuiten van kwetsbaarheden door leeftijd, handicap of een specifieke sociale of economische omstandigheid.
Voorspellend politiewerk op profilering
Artikel 5, lid 1, onder d)AI die uitsluitend op basis van demografische kenmerken, uiterlijk, woonplaats of sociaaleconomische achtergrond het risico voorspelt dat iemand een delict pleegt. AI die helpt bij het analyseren van concreet bewijs in een lopend onderzoek is wel toegestaan.
Ongerichte gezichtsscraping
Artikel 5, lid 1, onder e)Gezichtsafbeeldingen ongericht verzamelen van het internet of CCTV om gezichtsherkenningsdatabases te bouwen.
Biometrische categorisatie op gevoelige kenmerken
Artikel 5, lid 1, onder g)AI die personen via biometrie categoriseert naar ras, politieke opvattingen, vakbondslidmaatschap, religie, seksleven of seksuele geaardheid.
Twee nieuwe verboden per 2 december 2026
De Digital Omnibus (Verordening (EU) 2026/1744, in werking sinds 27 juli 2026) voegt twee categorieën toe aan Artikel 5. Vanaf 2 december 2026 zijn het er tien in plaats van acht.
NudifiersAI-systemen die realistische beelden, video's, audio of soortgelijk materiaal genereren of manipuleren van de intieme delen van een identificeerbare natuurlijke persoon, of van zo iemand die expliciete seksuele gedragingen verricht, zonder diens vrijelijk gegeven, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming (Artikel 5, lid 1, onder b bis). Artikel 5, lid 1 bis begrenst dat: in de handel brengen is alleen verboden als het genereren het beoogde doel is of een redelijkerwijs te voorzien en reproduceerbaar resultaat zonder afdoende waarborgen. Gebruik is alleen verboden wanneer de gebruiksverantwoordelijke het systeem daadwerkelijk daarvoor inzet. Het raakt zowel aanbieders als gebruiksverantwoordelijken.
AI-gegenereerd kindermisbruikmateriaalSystemen die materiaal of een voorstelling genereren of manipuleren in de zin van artikel 2, punten c) en e), van Richtlijn 2011/93/EU zijn verboden, behalve wanneer krachtens het nationale recht een "wederrechtelijke" verdediging van toepassing is (Artikel 5, lid 1, onder b ter).
Voor beide geldt geen overgangsregeling voor bestaande systemen: op 2 december 2026 moet u eraan voldoen.
Wat moet u doen als u verboden AI gebruikt?
Stelt u vast dat uw organisatie een verboden AI-systeem gebruikt, dan moet u meteen ingrijpen. Het verbod geldt al sinds februari 2025.
Stop direct met het gebruik en leg vast om welk systeem het gaat en sinds wanneer het draaide. Informeer uw leverancier dat u het gebruik beëindigt vanwege het AI Act-verbod. Is er data verzameld die onder het verbod valt, dan neemt u daar passende maatregelen op. Alles wat u doet hoort in uw AI-register, als bewijs dat u zelf heeft ingegrepen.
Praktische voorbeelden
Neem een retailbedrijf dat camera's met emotieherkenning inzet om het winkelgedrag van klanten te analyseren. Afhankelijk van de exacte werking kan dat systeem onder het verbod op biometrische categorisatie vallen. Een HR-afdeling die AI-software gebruikt die op basis van gezichtsanalyse de persoonlijkheid van sollicitanten beoordeelt, raakt het verbod op emotieherkenning in de werkcontext (Artikel 5, lid 1, onder f). Verboden biometrische categorisering is het niet: punt g) noemt limitatief ras, politieke opvattingen, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuigingen, seksleven en seksuele gerichtheid. Persoonlijkheid hoort daar niet bij. Een marketingbedrijf dat AI inzet om specifiek ouderen of kinderen te manipuleren tot aankoopbeslissingen, overtreedt het verbod op manipulatieve AI.
Valt een systeem niet onder de verboden praktijken, dan is de volgende vraag of het hoog-risico is. Hoe u dat bepaalt via Artikel 6 en Bijlage III leest u in is uw AI-systeem hoog-risico.
Veelgestelde vragen
Geldt het verbod op emotieherkenning ook voor klanten?
Nee. Artikel 5 verbiedt emotieherkenning specifiek op de werkplek en in het onderwijs. Emotieherkenning bij klanten valt daar niet onder, maar blijft gebonden aan andere regels: het raakt al snel biometrische categorisatie en onder de AVG gaat het om bijzondere persoonsgegevens. Reken dus niet op de smalle reikwijdte van het verbod als vrijbrief.
Mag ik gezichtsherkenning gebruiken voor toegangscontrole?
Ja, mits. Het verbod op realtime biometrische identificatie op afstand geldt alleen in publiek toegankelijke ruimtes en alleen ten behoeve van rechtshandhaving. Toegangscontrole op uw eigen terrein met instemming van de betrokkene valt erbuiten. Het systeem verwerkt dan wel biometrische gegevens onder de AVG. Hoog-risico onder Bijlage III is het meestal niet: punt 1, onder a) zondert biometrische verificatie uit die alleen bevestigt dat iemand is wie hij zegt te zijn. Werkt het systeem één-op-veel, dan kan het wél onder punt 1, onder a) vallen, met verplichtingen vanaf 2 december 2027.
Wat als mijn leverancier zegt dat het systeem is toegestaan?
De verantwoordelijkheid voor de inzet blijft bij u. Vraag om een schriftelijke onderbouwing waarin de leverancier per Artikel 5-categorie uitlegt waarom het systeem er niet onder valt. Krijgt u die niet, dan is dat op zichzelf een signaal. Leg het antwoord vast in uw AI-register.
Is een chatbot die klanten overtuigt manipulatieve AI?
Normaal verkopen valt er niet onder. Het verbod raakt subliminale of misleidende technieken die het gedrag wezenlijk verstoren en aanzienlijke schade kunnen veroorzaken, of die kwetsbaarheid door leeftijd, handicap of sociaal-economische situatie uitbuiten. Een chatbot die eerlijk informeert en verkoopt, blijft daarbuiten. Een chatbot die schaarste voorwendt richting mensen met schulden, komt in de gevarenzone.
Wie handhaaft het verbod in Nederland?
Het boetehoofdstuk van de verordening geldt sinds 2 augustus 2025 (Artikel 113, onder b), maar de sancties en de bevoegde toezichthouder komen uit nationaal recht (Artikel 99, lid 1). Nederland heeft dat nog niet geregeld, dus er kan hier vandaag geen AI Act-boete worden opgelegd. In de concept-Uitvoeringswet AI-verordening zijn de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur aangewezen als coördinerende toezichthouders, met de AP als markttoezichthouder voor verboden AI. Bij financiële instellingen krijgen de AFM en DNB een deel van de verboden praktijken (Artikel 5, lid 1, onder a, b, c en d). Die wet is nog niet definitief.
Twijfelt u of uw AI-gebruik onder een van deze categorieën valt? De gratis risicoscan geeft in vijf minuten de risicocategorie per systeem, met de stappen die daarbij horen. Wat er na de scan gebeurt, ziet u in een film van twee minuten.