Een consument vraagt een lening aan. Binnen milliseconden beoordeelt een algoritme zijn kredietwaardigheid, weegt honderden datapunten mee en geeft een score. Goedgekeurd of afgewezen. Geen mens die ernaar kijkt. Dit scenario is geen toekomstmuziek. Het is dagelijkse realiteit bij banken, verzekeraars en fintechs in heel Europa.
De EU AI Act plaatst dit soort toepassingen in de zwaarste categorie. Financiele AI die beslissingen neemt over krediet, verzekeringen of fraude raakt direct aan de portemonnee van mensen. De wetgever vindt dat deze systemen strenger gereguleerd moeten worden. Terecht?
Waarom financiele AI hoog-risico is
Bijlage III van de AI Act, categorie 5, is glashelder. AI-systemen die worden gebruikt voor het beoordelen van kredietwaardigheid, het bepalen van kredietscores en het vaststellen van verzekeringspremies of -voorwaarden zijn hoog-risico. De logica daarachter is eenvoudig: als een algoritme bepaalt of u een hypotheek krijgt, welke premie u betaalt of dat uw schadeclaim wordt uitgekeerd, dan heeft dat directe gevolgen voor uw financiele positie.
Dit geldt niet alleen voor exotische AI-modellen. Veel gangbare tools in de financiele sector vallen eronder.
Welke tools en platforms worden geraakt?
De lijst is langer dan veel financiele professionals denken.
Kredietscoring en BNPL
Diensten als Klarna, Riverty (voorheen AfterPay) en andere buy-now-pay-later-platforms gebruiken AI om in real-time te bepalen of een consument kredietwaardig is. Betaalplatforms als Adyen en Stripe integreren AI-gestuurde risicoscoring in hun betalingsinfrastructuur. Kredietbureaus als CreditSafe en Graydon leveren AI-modellen die bedrijven en consumenten een kredietscore toekennen. Al deze systemen vallen straks onder de hoog-risico verplichtingen.
Fraudedetectie
Vrijwel elke bank en betaaldienstverlener gebruikt AI voor het detecteren van verdachte transacties. Systemen die automatisch transacties blokkeren, accounts bevriezen of meldingen genereren op basis van patronen in data: hoog-risico. De impact op consumenten is groot. Een foutief geblokkeerde rekening kan iemand wekenlang in de problemen brengen.
Verzekeringen
FRISS, een Nederlandse marktleider in verzekeringsfraudedetectie, gebruikt AI om schadeclaims te beoordelen en fraude op te sporen. Verzekeraars die AI inzetten voor het bepalen van premies op basis van persoonlijke kenmerken of gedragsdata vallen eveneens onder de AI Act. Denk ook aan geautomatiseerde acceptatie van verzekeringsaanvragen, waarbij een algoritme bepaalt of u uberhaupt verzekerd kunt worden.
Het Apple Card-schandaal: waarom dit ertoe doet
Wie denkt dat discriminatie door financiele AI een theoretisch risico is, hoeft alleen te kijken naar wat er in 2019 gebeurde met de Apple Card. Het kredietalgoritme achter deze creditcard, beheerd door Goldman Sachs, gaf vrouwen systematisch lagere kredietlimieten dan mannen. Zelfs als het echtpaar identieke financiele gegevens had. Tech-ondernemer David Heinemeier Hansson ontdekte dat zijn vrouw een twintig keer lagere kredietlimiet kreeg. Ze had een hoger belastbaar inkomen.
Het resultaat: een onderzoek door de New York Department of Financial Services. Goldman Sachs kon niet uitleggen hoe het algoritme tot zijn beslissingen kwam. Precies het probleem dat de AI Act wil aanpakken. Niet-uitlegbare beslissingen die mensen treffen in hun portemonnee.
Wat de AI Act eist van financiele instellingen
Vanaf augustus 2026 gelden strenge verplichtingen voor alle hoog-risico AI in de financiele sector. Dit is wat u moet regelen.
Beoordeling van fundamentele rechten
U moet een grondige beoordeling uitvoeren van de impact van uw AI-systemen op fundamentele rechten. Kan het systeem discrimineren op basis van geslacht, leeftijd, afkomst of postcode? Hoe beinvloedt het de financiele toegankelijkheid voor kwetsbare groepen? Deze analyse moet gedocumenteerd zijn voordat het systeem in gebruik gaat.
Menselijk toezicht
Geen volledig geautomatiseerde afwijzingen meer zonder menselijke controle. Bij kredietbeslissingen, verzekeringsacceptatie en fraudeblokkades moet een mens de mogelijkheid hebben om de AI-beslissing te beoordelen en te overrulen. Dat betekent niet dat elke transactie handmatig moet worden gecontroleerd. Wel dat er een escalatieprocedure bestaat voor gevallen waar de AI-beslissing significante gevolgen heeft.
Transparantie en uitlegbaarheid
Consumenten hebben het recht om te begrijpen waarom een kredietaanvraag is afgewezen of waarom hun verzekeringspremie hoger uitvalt. Black box-modellen die geen uitleg kunnen geven worden problematisch. U moet kunnen uitleggen welke factoren meewegen in de beslissing. Niet in technisch jargon, maar in begrijpelijke taal.
Non-discriminatie
U bent verplicht om actief te monitoren of uw AI-systemen discriminerende patronen vertonen. Worden bepaalde postcodegebieden systematisch benadeeld? Krijgen vrouwen lagere kredietlimieten? Is leeftijd een onterecht nadelige factor? U moet dit meten, rapporteren en corrigeren waar nodig.
Technische documentatie en logging
Alle beslissingen die door hoog-risico AI-systemen worden genomen moeten worden gelogd. U moet achteraf kunnen reconstrueren hoe een beslissing tot stand is gekomen. Uw leverancier is verplicht om u de benodigde technische documentatie te verstrekken.
DNB en AFM: wie houdt toezicht?
In Nederland spelen De Nederlandsche Bank (DNB) en de Autoriteit Financiele Markten (AFM) een centrale rol bij het toezicht op AI in de financiele sector. De AFM houdt al langer toezicht op algoritmische besluitvorming bij financiele dienstverleners. Met de AI Act krijgen deze toezichthouders extra instrumenten.
De AFM heeft in eerdere publicaties gewaarschuwd voor de risicos van niet-uitlegbare AI-modellen bij kredietverlening. DNB kijkt specifiek naar de operationele risicos van AI bij banken en verzekeraars. Verwacht dat beide toezichthouders actief zullen handhaven zodra de hoog-risico verplichtingen in augustus 2026 ingaan.
Voor financiele instellingen die onder prudentieel toezicht staan komt de AI Act bovenop bestaande regelgeving rond modelbeheer, operationeel risico en consumentenbescherming. Dat maakt vroegtijdige voorbereiding extra belangrijk.
Artikel 4: AI-geletterdheid geldt nu al
Een verplichting die vaak over het hoofd wordt gezien. De AI-geletterdheidsplicht uit Artikel 4 geldt al sinds 2 februari 2025. Iedereen in uw organisatie die met AI-systemen werkt, moet voldoende kennis hebben van AI en de bijbehorende risicos.
Voor de financiele sector is dit bijzonder relevant. Begrijpen uw medewerkers hoe de kredietscoring-AI werkt? Weten ze wanneer ze een automatische fraudemelding moeten wantrouwen? Kunnen ze uitleggen aan een klant waarom een aanvraag is afgewezen? Als het antwoord nee is, loopt u nu al achter op de wet.
De deadline: augustus 2026
Vanaf 2 augustus 2026 gelden alle verplichtingen voor hoog-risico AI-systemen volledig. Voor financiele instellingen met complexe AI-systemen is zestien maanden krap. De tijd om voor te bereiden is nu.
Concreet: wat moet u nu doen?
Inventariseer al uw financiele AI
Welke systemen gebruiken AI voor kredietbeslissingen, fraudedetectie, verzekeringsacceptatie of premieberekening? Vergeet niet de AI die ingebouwd zit in platforms van derden. Registreer elk systeem.
Beoordeel de uitlegbaarheid
Kunt u voor elk AI-systeem uitleggen hoe het tot een beslissing komt? Zo niet, bespreek dit met uw leverancier. Onder de AI Act is uitlegbaarheid geen luxe. Het is een verplichting.
Start met bias-monitoring
Begin nu met het meten of uw AI-systemen bepaalde groepen systematisch benadelen. Hoe eerder u patronen ontdekt, hoe meer tijd u heeft om ze te corrigeren.
Train uw team
De AI-geletterdheidsplicht geldt al. Zorg dat medewerkers die met financiele AI werken begrijpen wat de AI Act van hen vraagt. Van de klantenservicemedewerker die moet uitleggen waarom een betaling is geblokkeerd tot de risicomanager die AI-modellen beheert.
Vraag documentatie op bij leveranciers
Platforms als Klarna, Adyen, CreditSafe en FRISS moeten u als gebruiksverantwoordelijke voorzien van technische documentatie. Vraag proactief naar conformiteitsverklaringen, bias-rapportages en uitlegbaarheidsdocumentatie.
Richt menselijk toezicht in
Bepaal bij welke beslissingen menselijke controle nodig is. Stel escalatieprocedures op. Documenteer hoe het toezicht is ingericht.
Voer een FRIA uit
Start met de Fundamental Rights Impact Assessment voor uw meest kritische AI-systemen. Welke groepen worden geraakt? Waar zit het discriminatierisico? Leg alles vast.
De risicoscanner als startpunt
Weet u niet waar u moet beginnen? De AI Risicoscanner op AIComplianceHub.nl geeft u in vijf minuten een eerste beeld van de risicocategorie van uw financiele AI-systemen. U ziet direct welke verplichtingen gelden en welke stappen u moet nemen. Van daaruit bouwt u in het AIComplianceHub-platform uw AI-register op, genereert u de verplichte documentatie en traint u uw team.
De financiele sector staat voor een fundamentele verschuiving in hoe AI mag worden ingezet. Organisaties die nu beginnen met compliance hebben straks een voorsprong. Wie wacht riskeert boetes tot 15 miljoen euro of 3 procent van de jaaromzet. Maar belangrijker: u riskeert het vertrouwen van uw klanten.