Welke extra eisen gelden voor AI bij de overheid? Het korte antwoord: publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen, voeren een grondrechtentoets uit voordat zij een hoog-risicosysteem uit Bijlage III in gebruik nemen, behalve bij kritieke infrastructuur (Artikel 27). Die plicht geldt vanaf 2 december 2027. Bent u een overheidsinstantie, dan registreert u zich daarnaast zelf in de EU-databank, selecteert u het systeem en legt u het gebruik ervan vast (Artikel 49 lid 3). Daar komt in Nederland het Algoritmeregister bovenop, plus het IAMA als beleidsinstrument.
Bij overheden en uitvoeringsorganisaties is AI-compliance niet optioneel. De AI Act stelt de overheid op twee punten zwaardere eisen dan de meeste private partijen: de grondrechtentoets (Artikel 27) en de registratie van het gebruik in de EU-databank (Artikel 49, lid 3). De herinnering aan SyRI en de kinderopvangtoeslagaffaire leeft nog. Burgers, politici en toezichthouders kijken kritisch mee. Voor beleidsmakers, CIO's en algoritme-eigenaren bij de overheid loont het om te weten wat de wet vraagt.
De boodschap is omvangrijk. Publieke AI raakt burgers, dus er gelden strengere normen. En Nederland loopt op Europa vooruit met een eigen Algoritmeregister en eigen nationale richtlijnen.
Waarom publieke AI extra weegt
Bijlage III van de AI Act wijst meerdere publieke toepassingen aan als hoog-risico.
Toegang tot essentiële publieke diensten
Bijlage III punt 5aAI die beoordeelt of burgers in aanmerking komen voor uitkeringen en diensten, waaronder zorg, of die zulke uitkeringen verleent, beperkt, intrekt of terugvordert.
Rechtshandhaving
Bijlage III punt 6Risicobeoordelingen van personen, de beoordeling van de betrouwbaarheid van bewijs en profilering tijdens opsporing en vervolging. Een voorspelling dat iemand een strafbaar feit pleegt die alleen op profilering rust, is verboden (Artikel 5 lid 1 onder d).
Migratie en grenscontrole
Bijlage IIIVisumbeoordeling, asielbeslissingen, automatische triage in immigratieprocessen.
Rechtsgang en democratische processen
Bijlage IIIAlgoritmes die rechterlijke instanties ondersteunen bij het onderzoeken en uitleggen van feiten of het toepassen van recht (punt 8a). Daarnaast systemen die bedoeld zijn om de uitslag van een verkiezing of het stemgedrag te beïnvloeden (punt 8b).
Ook AI voor biometrische identificatie op afstand, biometrische categorisering en emotieherkenning is hoog-risico (Bijlage III punt 1). Een deel is verboden: emotieherkenning op de werkplek en in het onderwijs (Artikel 5 lid 1 onder f) plus categorisering naar bijvoorbeeld ras of geloof (onder g). Voor real-time identificatie bij rechtshandhaving geldt een apart verbod, verderop in dit artikel.
Het SyRI-dilemma en de lessen die we leerden
In februari 2020 oordeelde de rechtbank Den Haag dat de wettelijke regeling van SyRI (Systeem Risico Indicatie) in strijd was met het recht op privéleven uit artikel 8 EVRM. De regeling werd onverbindend verklaard. Dit was een keerpunt in het Nederlandse denken over publieke AI. De belangrijkste lessen werken door in de AI Act-implementatie:
Gebrek aan transparantie werkt niet: als burgers niet weten welke algoritmes op hen worden toegepast, kunnen ze zich niet verweren. De AI Act eist transparantie richting de burger. Wie een hoog-risicosysteem uit Bijlage III inzet voor besluiten over personen, laat hen dat weten (Artikel 26, lid 11). Zij hebben recht op uitleg over de rol van het systeem in het besluit (Artikel 86).
Risicoprofilering zonder waarborgen is onacceptabel. Wie gefocust wordt in een algoritme kan onterecht gestigmatiseerd raken. De aanbieder van een hoog-risicosysteem moet de data onderzoeken op mogelijke vertekeningen (Artikel 10, lid 2). Als overheid zorgt u dat de inputdata die u zelf aanlevert relevant en voldoende representatief zijn. U monitort ook hoe het systeem werkt (Artikel 26, lid 4 en 5).
Geen buitensluiting van journalistieke en juridische controle. Overheids-AI moet onderzoekbaar zijn.
Het Algoritmeregister: Nederland loopt voor
Nederland heeft als een van de eerste landen in Europa een Algoritmeregister opgezet, te vinden op algoritmes.overheid.nl. Gemeenten, ministeries en uitvoeringsorganisaties publiceren daar welke algoritmes ze gebruiken, waarvoor, hoe ze werken en welke risico's zij zien. Let op de status: aanleveren is geen wettelijke plicht. Het register zegt daar zelf over dat het aanleveren van informatie over algoritmes nu nog niet verplicht is voor overheidsorganisaties. Het kabinet kondigde in 2022 een wettelijke plicht aan, maar liet in september 2025 weten die op dit moment niet opportuun te vinden (Kamerstuk 26643, nr. 1394). Publiceren blijft daarmee kabinetsbeleid en goed gebruik, geen wettelijke plicht.
Ook in de Wet open overheid staat geen plicht om in het register te publiceren. Het register bestond al vóór de AI Act en vraagt deels andere informatie dan de EU-databank uit Artikel 49.
Praktisch: een registratie in het Algoritmeregister gaat verder dan de EU-databank die de AI Act eist (Artikel 49 lid 3, wél wettelijk verplicht voor overheidsinstanties die een hoog-risicosysteem uit Bijlage III gebruiken, behalve kritieke infrastructuur). Het is een uitgebreidere beschrijving voor burgers. Als u al in het register staat, heeft u een deel van het werk al gedaan. De EU-databank vraagt van u vooral een samenvatting van de grondrechtentoets en, waar van toepassing, van de DPIA (Bijlage VIII, afdeling C).
De FRIA: Fundamental Rights Impact Assessment
Artikel 27 van de AI Act verplicht publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen tot een FRIA zodra zij een hoog-risicosysteem uit Bijlage III inzetten, met uitzondering van punt 2 (kritieke infrastructuur). Die eerste groep is ruimer dan de overheid zelf: ook een academisch ziekenhuis of een publieke omroep kan eronder vallen. Dit is een impact-assessment specifiek gericht op fundamentele rechten. Draait een systeem al vóór 2 december 2027, dan gelden de hoog-risicoplichten pas na een aanzienlijke wijziging in het ontwerp. Is zo'n bestaand systeem bedoeld voor gebruik door overheidsinstanties, dan moet het uiterlijk op 2 augustus 2030 voldoen, ook zonder wijziging (Artikel 111, lid 2).
Wat moet een FRIA bevatten?
Een beschrijving van uw processen waarin het systeem wordt gebruikt, passend bij het beoogde doel (Artikel 27, lid 1, onder a).
De periode waarin en de frequentie waarmee het systeem wordt gebruikt (onder b).
De categorieën personen en groepen die gevolgen ondervinden. Dat is breed: mensen over wie besluiten worden genomen, maar ook groepen die er indirect door worden geraakt (onder c).
De specifieke risico's op schade voor die personen, met de informatie van de aanbieder erbij (onder d).
Hoe het menselijk toezicht is ingericht (onder e).
Wat u doet als een risico zich voordoet, inclusief interne governance en een klachtenregeling (onder f).
De uitkomst meldt u bij de markttoezichtautoriteit, met het sjabloon van het AI-bureau (Artikel 27, lid 3).
De FRIA geldt voor het eerste gebruik. Verandert daarna een van de onderdelen, of is er een niet meer actueel, dan werkt u de toets bij (Artikel 27, lid 2). Leg daarbij vast wie welke beslissing nam over risico's en maatregelen. Artikel 27 vraagt dat niet letterlijk, maar een toezichthouder die doorvraagt wel.
IAMA: de Nederlandse aanvulling
Nederland kent al het IAMA (Impact Assessment Mensenrechten en Algoritmes), een instrument ontwikkeld door de Universiteit Utrecht in opdracht van BZK. Het IAMA is uitgebreider dan de FRIA. Het begint bij de vraag waarom u een algoritme wilt inzetten en loopt via data en implementatie naar de toets op mensenrechten.
Als u al een IAMA heeft uitgevoerd, ligt een flink deel van uw FRIA-werk er al. Overheden kunnen het IAMA als basis gebruiken en aanvullen met de AI Act-specifieke elementen. Andersom geldt ook: wie de FRIA doet, heeft een goede aanzet voor een IAMA.
Het verbod op sociale scoring en biometrie
Artikel 5 van de AI Act verbiedt sociale scoring, door de overheid en door private partijen (lid 1 onder c). Het gaat om het beoordelen van personen over een periode op sociaal gedrag of persoonlijke kenmerken, waarbij de score leidt tot een nadelige behandeling in een context die losstaat van waar de gegevens vandaan komen. Of tot een behandeling die onevenredig is met dat gedrag.
Een tweede verbod raakt opsporing. Het is verboden om uitsluitend op basis van profilering of persoonlijkheidskenmerken te voorspellen of iemand een strafbaar feit gaat plegen (Artikel 5 lid 1 onder d). Ondersteunt het systeem een menselijke beoordeling die al op objectieve, controleerbare feiten berust, dan geldt het verbod niet. Zo'n systeem is dan wel hoog-risico onder Bijlage III punt 6 onder d.
Praktisch raakt dit:
Algemene risicoprofielen die gebruikt worden in meerdere domeinen zonder duidelijke rechtvaardiging.
Systemen die burgers rangschikken op sociale gedragsindicatoren voor toegang tot voorzieningen.
Combinatiesystemen waar data uit meerdere bronnen wordt samengebracht tot een algemene score.
Real-time biometrische identificatie op afstand in openbare ruimten is verboden ten behoeve van rechtshandhaving (Artikel 5 lid 1 onder h). De verordening laat drie smalle uitzonderingen toe, zoals het gericht zoeken naar slachtoffers van ontvoering of mensenhandel en het voorkomen van een terroristische aanslag. Die gelden alleen als een lidstaat ze in nationaal recht regelt, met vooraf toestemming van een gerechtelijke of onafhankelijke administratieve instantie (Artikel 5 lid 3 en lid 5). Het concept van de Nederlandse Uitvoeringswet maakt van die mogelijkheid geen gebruik.
Toezicht en handhaving in Nederland
De Autoriteit Persoonsgegevens (AP) heeft een belangrijke rol. De Algemene Rekenkamer kijkt naar doelmatigheid. De Nationale ombudsman behandelt klachten van burgers. De Rijksinspectie Digitale Infrastructuur (RDI) krijgt onder de concept-Uitvoeringswet samen met de AP de coördinerende rol voor de AI-verordening; die wet is nog niet aangenomen.
Bijzonder is de rol van gemeenteraden en waterschappen. Zij zijn verantwoordelijk voor toezicht op het eigen AI-gebruik. Dat vraagt een nieuw soort bestuurlijke kennis. De VNG werkt aan handvatten, maar het is aan individuele besturen om te begrijpen wat hun AI doet.
Wat overheidsorganisaties nu moeten doen
Inventariseer al uw AI-systemen. Reken daarbij ook de AI mee die is ingebouwd in standaardsoftware: Copilot in documentbeheer, een zaaksysteem dat binnenkomende zaken automatisch toewijst, slimme suggesties in de mail, kaartsystemen met voorspelling.
Check uw Algoritmeregister-registraties. Zijn alle burger-impacterende AI-systemen geregistreerd? Zijn de beschrijvingen up to date?
Voer FRIA/IAMA uit voor elk hoog-risico systeem. Betrek juristen, privacy officers en domeinexperts. Laat geraakte burgergroepen meekijken waar mogelijk (participatie versterkt legitimiteit en kwaliteit).
Richt menselijk toezicht structureel in. Geen besluit met gevolgen voor burgers zonder echte menselijke beoordeling. Wie toezicht houdt, heeft de bekwaamheid, opleiding en autoriteit om in te grijpen (Artikel 26, lid 2). Dat sluit aan op Artikel 22 AVG: een besluit met rechtsgevolgen mag niet uitsluitend op geautomatiseerde verwerking berusten. Een mens die alleen aftekent, telt daarbij niet mee.
Maak een publieks-uitleg per AI-systeem. In begrijpelijk Nederlands, toegankelijk via uw website, met contactmogelijkheid voor vragen.
Borg de governance op bestuurlijk niveau. Algoritmes raken politieke keuzes. Een ambtelijke afdeling kan de uitvoering doen, maar het bestuur moet politiek verantwoording afleggen.
De bijzondere positie van uitvoeringsorganisaties
UWV, Belastingdienst, Duo, IND, SVB. Grote uitvoeringsorganisaties hebben AI-systemen met enorme impact op burgers. De kinderopvangtoeslagaffaire liet zien hoe verwoestend het effect kan zijn als AI-gedreven risicoselectie misgaat.
De AI Act maakt geen onderscheid tussen grote en kleine overheidsorganisaties. De plichten hangen aan het systeem en aan uw rol. Maar bij een uitvoeringsorganisatie raakt een fout duizenden burgers tegelijk. Dat weegt mee in wat Kamer en toezichthouders verwachten. Onafhankelijke audits en periodieke externe evaluatie liggen dan voor de hand, ook waar de wet ze niet voorschrijft.
Gemeenten en provincies staan voor soortgelijke uitdagingen op kleinere schaal. Algoritmes voor handhaving, sociale dienst, WOZ-taxaties: allemaal raken ze burgers. De professionaliseringsslag is voor middelgrote gemeenten een forse opgave.
Veelgestelde vragen
Is het Algoritmeregister wettelijk verplicht?
Nee. Publicatie in het Algoritmeregister volgt uit kabinetsbeleid, zonder wettelijke plicht of sanctie. De registratieplicht die wél uit de AI Act volgt, is de EU-databank voor hoog-risicosystemen uit Bijlage III (Artikel 49, lid 3). Die geldt vanaf 2 december 2027 voor overheidsinstanties die zo'n systeem inzetten. Systemen voor kritieke infrastructuur worden nationaal geregistreerd (lid 5).
Wat is het verschil tussen een FRIA en een IAMA?
De FRIA is de grondrechtentoets uit Artikel 27 van de AI Act, verplicht voor publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen en een hoog-risicosysteem uit Bijlage III inzetten, behalve kritieke infrastructuur. Die eerste groep is ruimer dan de overheid zelf. Het IAMA is een Nederlands instrument dat breder kijkt en al langer bestaat. Wie een IAMA goed heeft uitgevoerd, heeft een flink deel van de FRIA-inhoud al liggen, maar de FRIA-eisen moet u expliciet afvinken.
Geldt dit ook voor gemeenten en samenwerkingsverbanden?
Ja. De verplichtingen hangen aan de rol van publiekrechtelijk orgaan, niet aan de omvang. Een klein samenwerkingsverband dat een hoog-risicosysteem uit Bijlage III inzet, buiten kritieke infrastructuur, moet dezelfde grondrechtentoets doen als een groot uitvoeringsorgaan.
Mogen wij AI gebruiken voor fraudedetectie bij uitkeringen?
Dat vraagt grote voorzichtigheid. Risicoprofilering van burgers raakt het verbod op sociale scoring zodra een score nadelig doorwerkt in een andere context, of tot een onevenredige behandeling leidt (Artikel 5 lid 1 onder c). Voorspelt het systeem uitsluitend op basis van profilering of iemand fraude pleegt die strafbaar is, dan geldt ook het verbod van Artikel 5 lid 1 onder d. Blijft u erbuiten, dan is het systeem vrijwel zeker hoog-risico (Bijlage III punt 5 onder a), want een systeem dat profileert valt niet onder de uitzondering van Artikel 6 lid 3. Grondrechtentoets en registratie horen daarbij.
Wie houdt toezicht op overheids-AI?
Volgens het wetsvoorstel voor de Uitvoeringswet AI-verordening, dat nog niet is aangenomen, worden de AP en de RDI coördinerend toezichthouder. Voor de meeste overheids-AI uit Bijlage III, zoals toegang tot uitkeringen en diensten, rechtshandhaving en migratie, wijst de concept-Uitvoeringswet de AP aan als markttoezichthouder. Voor AI in de rechtspraak wijst het voorstel de procureur-generaal bij de Hoge Raad en de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State aan.
Wat u vandaag kunt doen
Begin met een inventarisatie die breder is dan alleen de 'hoofd-algoritmes', want AI zit ook in ondersteunende software. De gratis risicoscan geeft in vijf minuten per systeem de classificatie en de verplichtingen die daarbij horen.
Voor publieke AI komt daar meer bij dan voor private: de grondrechtentoets van Artikel 27, de registratie uit Artikel 49, lid 3 en het Algoritmeregister. De AI Act legt daarmee vast wat in Nederland al als norm gold.