Welke extra eisen gelden voor AI bij de overheid? Het korte antwoord: publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen moeten een grondrechtentoets uitvoeren zodra zij een hoog-risicosysteem uit Bijlage III inzetten (Artikel 27). Bent u een overheidsinstantie, dan registreert u zich daarnaast zelf in de EU-databank, selecteert u het systeem en legt u het gebruik ervan vast (Artikel 49 lid 3). Daar komt in Nederland het Algoritmeregister bovenop, plus het IAMA als beleidsinstrument.
Bij overheden en uitvoeringsorganisaties is AI-compliance niet optioneel. De AI Act stelt voor de publieke sector zwaardere eisen dan voor private partijen. De herinnering aan SyRI en de kinderopvangtoeslagaffaire leeft nog. Burgers, politici en toezichthouders kijken kritisch mee. Voor beleidsmakers, CIO's en algoritme-eigenaren bij de overheid loont het om te weten wat de wet vraagt.
De boodschap is omvangrijk. Publieke AI raakt burgers, dus er gelden strengere normen. En Nederland loopt op Europa vooruit met een eigen Algoritmeregister en eigen nationale richtlijnen.
Waarom publieke AI extra weegt
Bijlage III van de AI Act wijst meerdere publieke toepassingen aan als hoog-risico.
Toegang tot essentiële publieke diensten
Bijlage IIIAI bij uitkeringen, bijstandsbeslissingen, zorgtoewijzingen. Elk algoritme dat meebeslist over voorzieningen voor burgers.
Rechtshandhaving
Bijlage IIIRisicoprofilering door politie, voorspellingsmodellen voor criminaliteit, algoritmes voor opsporing. Raakt fundamentele rechten direct.
Migratie en grenscontrole
Bijlage IIIVisumbeoordeling, asielbeslissingen, automatische triage in immigratieprocessen.
Rechtsgang en democratische processen
Bijlage IIIAlgoritmes die rechterlijke instanties ondersteunen bij het onderzoeken en uitleggen van feiten of het toepassen van recht (punt 8a). Daarnaast systemen die bedoeld zijn om de uitslag van een verkiezing of het stemgedrag te beïnvloeden (punt 8b).
Daarnaast valt AI voor biometrie en emotieherkenning in publieke ruimtes onder zeer strenge beperkingen, met deels volledig verbod.
Het SyRI-dilemma en de lessen die we leerden
SyRI (Systeem Risico Indicatie) werd in 2020 door de rechtbank verboden wegens onvoldoende waarborgen voor fundamentele rechten. Dit was een keerpunt in het Nederlandse denken over publieke AI. De belangrijkste lessen werken door in de AI Act-implementatie:
Gebrek aan transparantie werkt niet: als burgers niet weten welke algoritmes op hen worden toegepast, kunnen ze zich niet verweren. De AI Act eist expliciet openbaarheid.
Risicoprofilering zonder waarborgen is onacceptabel. Wie gefocust wordt in een algoritme kan onterecht gestigmatiseerd raken. Bias-testen en periodieke evaluatie zijn geen luxe maar verplichting.
Geen buitensluiting van journalistieke en juridische controle. Overheids-AI moet onderzoekbaar zijn.
Het Algoritmeregister: Nederland loopt voor
Nederland heeft als een van de eerste landen in Europa een Algoritmeregister opgezet, te vinden op algoritmes.overheid.nl. Gemeenten, ministeries en uitvoeringsorganisaties publiceren daar welke algoritmes ze gebruiken, waarvoor, hoe ze werken en welke risico's zij zien. Let op de status: aanleveren is nog niet verplicht. Het register zegt daar zelf over dat het aanleveren van informatie over algoritmes nu nog niet verplicht is voor overheidsorganisaties. Die verplichting komt er wel aan. De wettelijke grondslag is aangekondigd in een Kamerbrief uit december 2022 en nog niet in werking. Tot die tijd is publiceren kabinetsbeleid en goed gebruik, geen wettelijke plicht.
De registratieplicht is gebaseerd op kabinetsbeleid; een wettelijke verplichting is aangekondigd maar niet vastgesteld en de Woo bevat die plicht niet en wordt verder aangescherpt in het wetsvoorstel Wet aanpak discriminatoire algoritmes. Het register loopt vooruit op de AI Act maar sluit er inhoudelijk op aan.
Praktisch: een registratie in het Algoritmeregister gaat verder dan de EU-databank die de AI Act eist (Artikel 49, wel wettelijk verplicht voor publieke gebruiksverantwoordelijken van hoog-risico AI). Het is een uitgebreidere beschrijving voor burgers. Als u al in het register staat, heeft u een groot deel van uw documentatie al op orde.
De FRIA: Fundamental Rights Impact Assessment
Artikel 27 van de AI Act verplicht publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen tot een FRIA zodra zij een hoog-risicosysteem uit Bijlage III inzetten, met uitzondering van punt 2 (kritieke infrastructuur). Die eerste groep is ruimer dan de overheid zelf: ook een academisch ziekenhuis of een publieke omroep kan eronder vallen. Dit is een impact-assessment specifiek gericht op fundamentele rechten.
Wat moet een FRIA bevatten?
Beschrijving van het AI-systeem en het beoogde gebruik.
Categorieën van personen die door het systeem worden geraakt. Dat is breed: directe gebruikers, mensen over wie besluiten worden genomen en derden die er indirect gevolgen van ondervinden.
Analyse van mogelijke schade aan fundamentele rechten: gelijke behandeling, privacy, persoonlijke autonomie, vrijheid van meningsuiting, procesrechten.
Bestaande en geplande maatregelen om risico's te beperken: menselijk toezicht, beroepsmogelijkheden, rechten van betrokkenen.
De FRIA is geen eenmalige exercitie: hij moet worden bijgewerkt wanneer het systeem materieel verandert. En het moet traceerbaar zijn: wie heeft welke beslissingen genomen over risico's en mitigerende maatregelen.
IAMA: de Nederlandse aanvulling
Nederland kent al het IAMA (Impact Assessment Mensenrechten en Algoritmes), een instrument ontwikkeld door de Universiteit Utrecht in opdracht van BZK. Het IAMA is uitgebreider dan de FRIA en behandelt ook governance-aspecten.
Als u al een IAMA heeft uitgevoerd, ligt een flink deel van uw FRIA-werk er al. Overheden kunnen het IAMA als basis gebruiken en aanvullen met de AI Act-specifieke elementen. Andersom geldt ook: wie de FRIA doet, heeft een goede aanzet voor een IAMA.
Het verbod op sociale scoring en biometrie
Artikel 5 van de AI Act verbiedt sociale scoring door publieke autoriteiten. Een overheid mag geen algoritme inzetten dat burgers scoort op basis van gedrag, persoonlijke kenmerken of sociaal gedrag, met negatieve gevolgen op onverwante gebieden.
Praktisch raakt dit:
Algemene risicoprofielen die gebruikt worden in meerdere domeinen zonder duidelijke rechtvaardiging.
Systemen die burgers rangschikken op sociale gedragsindicatoren voor toegang tot voorzieningen.
Combinatiesystemen waar data uit meerdere bronnen wordt samengebracht tot een algemene score.
Het verbod op live biometrische identificatie in openbare ruimtes door politie en andere autoriteiten is vergaand. Er zijn uitzonderingen, zoals het zoeken naar slachtoffers van ernstige misdrijven en het voorkomen van een terreuraanslag. Die vragen vooraf toestemming van een rechter of van een onafhankelijke administratieve instantie met bindende beslissing. Bij spoed mag het gebruik beginnen zonder die toestemming, mits die binnen 24 uur wordt aangevraagd (Artikel 5, lid 3).
Toezicht en handhaving in Nederland
De Autoriteit Persoonsgegevens (AP) heeft een belangrijke rol. De Algemene Rekenkamer kijkt naar doelmatigheid. De Nationale ombudsman behandelt klachten van burgers. De Rijksinspectie Digitale Infrastructuur (RDI) krijgt onder de concept-Uitvoeringswet samen met de AP de coördinerende rol voor de AI-verordening; die wet is nog niet aangenomen.
Bijzonder is de rol van gemeenteraden en waterschappen. Zij zijn verantwoordelijk voor toezicht op het eigen AI-gebruik. Dat vraagt een nieuw soort bestuurlijke kennis. De VNG werkt aan handvatten, maar het is aan individuele besturen om te begrijpen wat hun AI doet.
Wat overheidsorganisaties nu moeten doen
Inventariseer al uw AI-systemen. Reken daarbij ook de AI mee die is ingebouwd in standaardsoftware: Copilot in documentbeheer, slimme suggesties in de mail, kaartsystemen met voorspelling.
Check uw Algoritmeregister-registraties. Zijn alle burger-impacterende AI-systemen geregistreerd? Zijn de beschrijvingen up to date?
Voer FRIA/IAMA uit voor elk hoog-risico systeem. Betrek juristen, privacy officers en domeinexperts. Laat geraakte burgergroepen meekijken waar mogelijk (participatie versterkt legitimiteit en kwaliteit).
Richt menselijk toezicht structureel in. Geen automatische beslissingen met impact op burgers zonder dat een mens kan ingrijpen. Dit is ook AVG-compliant (Art. 22).
Maak een publieks-uitleg per AI-systeem. In begrijpelijk Nederlands, toegankelijk via uw website, met contactmogelijkheid voor vragen.
Borg de governance op bestuurlijk niveau. Algoritmes raken politieke keuzes. Een ambtelijke afdeling kan de uitvoering doen, maar het bestuur moet politiek verantwoording afleggen.
De bijzondere positie van uitvoeringsorganisaties
UWV, Belastingdienst, Duo, IND, SVB. Grote uitvoeringsorganisaties hebben AI-systemen met enorme impact op burgers. De kinderopvangtoeslagaffaire liet zien hoe verwoestend het effect kan zijn als AI-gedreven risicoselectie misgaat.
De AI Act gaat hier zwaarder wegen dan bij andere publieke organisaties. Maatregelen zoals onafhankelijke audits, uitgebreide monitoring en periodieke externe evaluatie worden waarschijnlijk de norm.
Gemeenten en provincies staan voor soortgelijke uitdagingen op kleinere schaal. Algoritmes voor handhaving, sociale dienst, WOZ-taxaties: allemaal raken ze burgers. De professionaliseringsslag is voor middelgrote gemeenten een forse opgave.
Veelgestelde vragen
Is het Algoritmeregister wettelijk verplicht?
Publicatie in het Algoritmeregister is beleid, geen wet: het volgt uit kabinetsafspraken, niet uit een verplichting met een sanctie. De registratieplicht die wél uit de AI Act volgt, is de EU-databank voor hoog-risicosystemen (Artikel 49). Die geldt voor overheidsinstanties die zo'n systeem inzetten.
Wat is het verschil tussen een FRIA en een IAMA?
De FRIA is de grondrechtentoets uit Artikel 27 van de AI Act, verplicht voor publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen en een hoog-risicosysteem uit Bijlage III inzetten. Die eerste groep is ruimer dan de overheid zelf. Het IAMA is een Nederlands instrument dat breder kijkt en al langer bestaat. Wie een IAMA goed heeft uitgevoerd, heeft een flink deel van de FRIA-inhoud al liggen, maar de FRIA-eisen moet u expliciet afvinken.
Geldt dit ook voor gemeenten en samenwerkingsverbanden?
Ja. De verplichtingen hangen aan de rol van publiekrechtelijk orgaan, niet aan de omvang. Een klein samenwerkingsverband dat een hoog-risicosysteem inzet, moet dezelfde grondrechtentoets doen als een groot uitvoeringsorgaan.
Mogen wij AI gebruiken voor fraudedetectie bij uitkeringen?
Dat vraagt grote voorzichtigheid. Risicoprofilering van burgers door de overheid raakt het verbod op sociale scoring uit Artikel 5 zodra scores uit de ene context nadelig doorwerken in een andere. Blijft u erbuiten, dan is het systeem vrijwel zeker hoog-risico onder Bijlage III, met grondrechtentoets en registratieplicht.
Wie houdt toezicht op overheids-AI?
De AP en de RDI worden coördinerend toezichthouder, met sectorale toezichthouders daarnaast. Voor AI in de rechtspraak wijst de concept-Uitvoeringswet de Procureur-Generaal bij de Hoge Raad en de president van de Afdeling bestuursrechtspraak aan.
Wat u vandaag kunt doen
Begin met een inventarisatie die breder is dan alleen de 'hoofd-algoritmes', want AI zit ook in ondersteunende software. De gratis risicoscan geeft in vijf minuten per systeem de classificatie en de verplichtingen die daarbij horen.
Voor publieke AI komt daar meer bij dan voor private: de grondrechtentoets van Artikel 27, de registratie uit Artikel 49, lid 3 en het Algoritmeregister. De AI Act legt daarmee vast wat in Nederland al als norm gold.