Dezelfde wet, andere consequenties. In 8 sectoren komen hoog-risico AI-systemen vaak voor. Of een systeem hoog-risico is, hangt af van wat het doet (Artikel 6). AI-geletterdheid geldt voor elke organisatie die AI inzet (Artikel 4). Voor chatbots, deepfakes en emotieherkenning gelden daarnaast transparantieplichten (Artikel 50).
Bijlage III van de AI Act wijst specifieke AI-toepassingen aan als hoog-risico, zoals CV-screening (punt 4), kredietscoring van particulieren (punt 5), biometrische identificatie op afstand (punt 1) en proctoring (punt 3). Voor die systemen gelden vanaf 2 december 2027 de zwaarste eisen. De aanbieder zorgt onder meer voor een risicobeheersysteem (Artikel 9), technische documentatie (Artikel 11) en registratie in de EU-databank (Artikel 49). Als gebruiksverantwoordelijke regelt u onder meer het menselijk toezicht (Artikel 26 lid 2). In sommige sectoren komen zulke systemen vaker voor dan in andere. Welke toezichthouder meekijkt, hangt af van het systeem en van wie het inzet. Voor AI in medische hulpmiddelen en andere producten uit Bijlage I, afdeling A, is dat de markttoezichthouder van dat product (Artikel 74 lid 3). Zet een bank of verzekeraar AI in voor zijn financiële dienstverlening, dan is dat de financiële toezichthouder (Artikel 74 lid 6). Kies hieronder uw branche.
Niet zeker welke sector? Doe de scanner8 sectoren waar hoog-risico AI-systemen vaak voorkomen. Voor die systemen gelden vanaf 2 december 2027 de zwaarste eisen uit de AI Act (Artikel 8 tot en met 27). Voor AI in medische hulpmiddelen is dat vanaf 2 augustus 2028.
AI die de kredietwaardigheid van natuurlijke personen beoordeelt, valt onder Bijlage III punt 5 onder b, met een uitzondering voor het opsporen van financiële fraude. Risicobeoordeling en premiestelling met betrekking tot natuurlijke personen bij levens- en ziektekostenverzekeringen vallen onder punt 5 onder c. Het markttoezicht ligt bij de financiële toezichthouder (Artikel 74 lid 6).
CV-screening en geautomatiseerde selectie vallen onder Bijlage III punt 4 onder a. Een roostertool valt eronder zodra hij taken toewijst op basis van individueel gedrag of persoonlijke kenmerken (punt 4 onder b). Als werkgever informeert u werknemers en hun vertegenwoordigers vooraf (Artikel 26 lid 7).
Proctoring, toetsbeoordeling en leerlingvolgsystemen. Emotieherkenning in onderwijsinstellingen is sinds 2 februari 2025 verboden, behalve om medische of veiligheidsredenen (Artikel 5 lid 1 onder f).
Besluitvorming, fraudedetectie en subsidieverdeling. Zet u een hoog-risicosysteem uit Bijlage III in, dan voert u vooraf een grondrechtentoets uit (Artikel 27 lid 1). Alleen systemen voor kritieke infrastructuur (punt 2) zijn daarvan uitgezonderd.
Diagnostische AI, medische beeldherkenning en companion diagnostics. MDR/IVDR en AI Act stapelen via Bijlage I, afdeling A. Een aangemelde instantie onder de MDR of IVDR kan beide in één conformiteitsbeoordeling meenemen (Artikel 43 lid 3; MDCG 2025-6).
Risicobeoordeling en premiestelling met AI bij levens- en ziektekostenverzekeringen van natuurlijke personen (Bijlage III punt 5 onder c). Beslist het systeem over natuurlijke personen of helpt het daarbij, dan informeert u hen daarover (Artikel 26 lid 11).
Woningtoewijzing staat niet als zodanig in Bijlage III. Gebeurt ze door of namens een overheidsinstantie, dan geldt punt 5 onder a. Zet u een hoog-risicosysteem uit Bijlage III in, dan voert u als verlener van een openbare dienst vooraf een FRIA uit (Artikel 27 lid 1), naast de DPIA uit de AVG. Let op het SyRI-precedent.
Diagnostiek kan hoog-risico zijn via Bijlage I en de MDR, spoedtriage via Bijlage III (punt 5 onder d). Administratieve AI meestal niet. Wat regelt u voor zowel AVG als AI Act?
Veel AI-toepassingen in deze sectoren vallen in beperkt of minimaal risico. AI-geletterdheid geldt ook hier (Artikel 4). Voor chatbots, deepfakes en emotieherkenning gelden transparantieplichten (Artikel 50). AI die sollicitanten beoordeelt of selecteert, die de kredietwaardigheid van natuurlijke personen bepaalt of die als veiligheidscomponent werkt in bijvoorbeeld de stroomvoorziening of het wegverkeer, is ook in deze sectoren in de regel hoog-risico (Bijlage III punt 4 onder a, punt 5 onder b en punt 2).
Doe de gratis risicoscan. In vijf minuten weet u hoe de AI Act uw organisatie raakt, ongeacht uw sector.
Start gratis risicoscan