Welke AI in het onderwijs is hoog-risico onder de AI Act? Het korte antwoord: systemen die bepalen wie wordt toegelaten, die leerresultaten beoordelen, die het passende onderwijsniveau vaststellen of die gedrag tijdens examens monitoren. Bijlage III, punt 3 noemt die vier expliciet. Een adaptief oefenprogramma zonder beoordelingsfunctie valt erbuiten.
Kunstmatige intelligentie verandert het onderwijs in hoog tempo. Universiteiten zetten AI in om tentamens te bewaken. Basisscholen werken met adaptieve leersystemen die zich aanpassen aan het niveau van elk kind. EdTech-bedrijven ontwikkelen tools die docenten uren aan nakijkwerk besparen. Maar met de komst van de EU AI Act verandert het speelveld. Het onderwijs is namelijk aangemerkt als hoog-risico domein.
Wat betekent dat precies? Welke AI-toepassingen worden geraakt? En wat moet uw onderwijsinstelling of EdTech-bedrijf regelen om aan de wet te voldoen?
Waarom het onderwijs een hoog-risico domein is
De AI Act classificeert AI-systemen aan de hand van het risico dat ze vormen voor mensen. In Bijlage III van de verordening staat een lijst van domeinen waar AI-gebruik als hoog risico geldt. Onderwijs en beroepsopleiding staan daar expliciet op.
De redenering is helder: AI-systemen in het onderwijs nemen beslissingen die de toekomst van mensen beïnvloeden. Een algoritme dat bepaalt of een student wordt toegelaten tot een opleiding, raakt het recht op onderwijs. Een systeem dat toetsen beoordeelt, beïnvloedt diploma's en carrierekansen. De gevolgen van fouten of vooroordelen in zulke systemen zijn groot en soms onomkeerbaar.
Niet elke AI-toepassing in het onderwijs is automatisch hoog risico. Een spellingscontrole in een schoolbibliotheeksysteem hoeft niet aan dezelfde strenge eisen te voldoen als een systeem dat selectiebeslissingen neemt. Het draait om de kernvraag: heeft het AI-systeem een materiële invloed op beslissingen die leerlingen of studenten raken?
Welke AI-toepassingen worden geraakt?
De lijst is langer dan veel onderwijsinstellingen beseffen.
AI voor toetsing en beoordeling is het meest voor de hand liggende voorbeeld. Denk aan systemen die open vragen automatisch nakijken, die essays beoordelen op kwaliteit, of die een cijfer toekennen op basis van patroonherkenning. Zodra een AI-systeem invloed heeft op de beoordeling van een leerling of student, is het waarschijnlijk hoog risico.
Toelatings- en selectiesystemen vormen een tweede categorie. Sommige universiteiten en hogescholen experimenteren met AI om aanmeldingen te screenen of te rangschikken. Elk systeem dat meebesluit over wie wordt toegelaten, valt onder de strengste regels.
Leerlingvolgsystemen (LVS) zijn in Nederland wijdverbreid. Systemen als ParnasSys en LOVS gebruiken data om de voortgang van leerlingen te monitoren. Wanneer deze systemen AI inzetten om voorspellingen te doen over leerprestaties of adviezen te genereren voor het schoolniveau, raakt dit de hoog-risico grens.
AI-proctoring is een bijzonder gevoelig onderwerp. Tijdens de coronapandemie groeide het gebruik van online surveillancetools voor tentamens explosief. Systemen als Proctorio en ProctorExam analyseren webcambeelden, toetsaanslagen en browsgedrag om fraude te detecteren. Dat combineert biometrische verwerking met beslissingen over studenten. Hoog risico, zonder twijfel.
Plagiaatdetectie met AI is een grijs gebied. Turnitin heeft een AI-detector toegevoegd die beoordeelt of tekst door AI is geschreven. Wanneer docenten dit resultaat gebruiken om een student van fraude te beschuldigen, heeft het systeem directe impact. De classificatie hangt af van hoe het systeem wordt ingezet. Puur als hulpmiddel voor de docent? Of als bepalende factor in een fraudebeslissing?
Adaptieve leerplatformen zoals Snappet, Gynzy en Learnbeat passen de leerstof aan op basis van het niveau en de voortgang van de leerling. Wanneer het platform alleen oefenstof varieert, is het risico beperkter. Doet het platform aanbevelingen over het leerniveau of de leerroute van een kind? Dan groeien de verplichtingen.
Het verbod op emotieherkenning in het onderwijs
Artikel 5 van de AI Act bevat een opvallende bepaling. AI-systemen die emoties herkennen op de werkplek en in onderwijsinstellingen zijn verboden. Dit verbod geldt al sinds 2 februari 2025.
Wat valt hieronder? Systemen die via gezichtsherkenning, stemanalyse of lichaamshouding proberen te bepalen of een student aandachtig is, gefrustreerd raakt of verveeld is. Sommige EdTech-bedrijven hebben zulke functies aangeboden als middel om "engagement" te meten. Onder de AI Act mag dit niet meer.
Er zijn twee beperkte uitzonderingen: emotieherkenning voor medische doeleinden of voor veiligheidsdoeleinden. Maar het meten van studentbetrokkenheid of aandacht valt daar niet onder. Punt.
Gebruikt uw instelling software die claimt emoties of aandacht van leerlingen te meten? Faseer dit direct uit.
Scholen als deployers, EdTech als providers
De AI Act maakt onderscheid tussen aanbieders (providers) en gebruiksverantwoordelijken (deployers). Dit onderscheid is cruciaal voor het onderwijs.
EdTech-bedrijven die AI-systemen ontwikkelen en op de markt brengen, zijn aanbieders. Zij dragen de zwaarste verplichtingen: conformiteitsbeoordeling, technische documentatie, risicobeheersysteem, CE-markering voor hoog-risico systemen. Zij moeten garanderen dat hun product aan de wet voldoet voordat het op de markt komt.
Scholen, universiteiten en andere onderwijsinstellingen zijn doorgaans deployers. Zij kopen AI-tools in en zetten deze in binnen hun organisatie. Maar ook deployers hebben verplichtingen die niet vrijblijvend zijn.
U moet het AI-systeem gebruiken volgens de gebruiksaanwijzing van de aanbieder (Artikel 26, lid 1). Het menselijk toezicht draagt u op aan mensen die daarvoor de bekwaamheid, de opleiding en de autoriteit hebben (lid 2). Heeft u zeggenschap over de inputdata, dan moeten die relevant en voldoende representatief zijn (lid 4). Logs bewaart u ten minste zes maanden (lid 6). Leerlingen en studenten (of hun ouders) moeten worden geïnformeerd dat het systeem op hen wordt toegepast (lid 11). Wat in Artikel 26 niet staat, is het systeem voor risicobeheer uit Artikel 9. Dat is een plicht van de aanbieder, niet van de school. Wel geldt voor onderwijsinstellingen bijna altijd Artikel 27, de beoordeling van de gevolgen voor de grondrechten. Die toets moet worden uitgevoerd door gebruiksverantwoordelijken die een publiekrechtelijk orgaan zijn of die als particuliere entiteit openbare diensten verlenen, en bekostigd onderwijs valt daar in de regel onder. Elk systeem hoort daarnaast in uw AI-register te staan.
Hier zit een belangrijk aandachtspunt. Veel onderwijsinstellingen gebruiken AI-tools zonder zich bewust te zijn van hun rol als deployer. Een school die een adaptief leerplatform inkoopt, is wettelijk verplicht om te controleren of de aanbieder aan de AI Act voldoet. Vraag uw leverancier naar de conformiteitsverklaring. Kan die niet worden geleverd? Dat is een serieus risicosignaal.
Menselijk toezicht: de docent houdt de regie
Een kernprincipe van de AI Act bij hoog-risico systemen is menselijk toezicht. In het onderwijs betekent dit concreet: de docent blijft verantwoordelijk voor beslissingen die leerlingen raken.
Een AI-systeem mag een toets nakijken, maar een docent moet het eindcijfer kunnen bijstellen. Een systeem mag een schoolniveau-advies genereren, maar het advies van de docent weegt zwaarder. Een proctoringtool mag verdacht gedrag signaleren, maar een mens beslist of er daadwerkelijk sprake is van fraude.
Dit klinkt vanzelfsprekend. In de praktijk sluipt automatisering erin. Wanneer 95 procent van de AI-beoordelingen wordt overgenomen zonder menselijke controle, is het toezicht een papieren werkelijkheid geworden. De AI Act vraagt om daadwerkelijk, betekenisvol menselijk toezicht. Geen stempelmachine.
Transparantie naar leerlingen en ouders
Onderwijsinstellingen moeten transparant zijn over hun gebruik van AI. Leerlingen, studenten en (bij minderjarigen) ouders hebben het recht om te weten wanneer AI wordt ingezet bij beoordeling, selectie of begeleiding.
Wat houdt dat in? Informeer leerlingen en ouders actief over welke AI-systemen worden gebruikt. Leg uit waarvoor de systemen dienen en welke rol ze spelen in beslissingen. Bied de mogelijkheid om bezwaar te maken of een menselijke herbeoordeling te vragen. Documenteer dit alles in uw AI-register.
Voor universiteiten geldt dit ook bij proctoring. Studenten moeten vooraf weten dat AI wordt ingezet om hun tentamen te bewaken, welke data worden verzameld en hoe deze worden verwerkt. Geen verrassing achteraf.
AI-geletterdheid: docenten voorbereiden
Artikel 4 van de AI Act verplicht alle organisaties die AI gebruiken om te zorgen voor AI-geletterdheid bij hun personeel. Voor het onderwijs is deze verplichting extra relevant. De plicht geldt al sinds 2 februari 2025.
Docenten zijn de eerste lijn: zij werken dagelijks met AI-tools en nemen beslissingen op basis van AI-uitkomsten. Een leraar die een leerlingvolgsysteem gebruikt maar niet begrijpt hoe de AI-voorspellingen tot stand komen, kan verkeerde conclusies trekken. Een docent die blind vertrouwt op een AI-plagiaatdetector, riskeert een onterechte fraudebeschuldiging.
AI-geletterdheid voor docenten gaat verder dan een basiscursus "wat is AI". Het draait om praktisch begrip van de tools die zij gebruiken. Hoe werkt het adaptieve algoritme van het leerplatform? Welke data verwerkt de proctoringtool? Hoe betrouwbaar zijn de uitkomsten van de plagiaatdetector? Wanneer moet ik als docent ingrijpen?
Hier ligt een taak voor schoolbesturen en universiteitsbesturen. Investeer in gerichte training. Niet een eenmalige workshop, maar een doorlopend programma dat meeontwikkelt met de technologie.
Praktische stappen voor onderwijsinstellingen
Wat moet u nu concreet doen?
Breng alle AI-systemen in kaart
Loop alle software langs die uw instelling gebruikt. Zit er AI in het leerlingvolgsysteem? In de toetsomgeving? In administratieve systemen? Vergeet het digitale leermateriaal niet. Maak een complete lijst.
Classificeer elk systeem
Bepaal per systeem of het hoog risico is. De kernvraag blijft: beïnvloedt dit systeem beslissingen over leerlingen of studenten?
Controleer op verboden toepassingen
Software die emoties of aandacht van leerlingen meet, is verboden sinds februari 2025. Faseer het uit als u het nog gebruikt.
Vraag leveranciers om documentatie
EdTech-aanbieders zijn verantwoordelijk voor conformiteitsbeoordelingen en technische documentatie. Vraag hier actief naar. Een leverancier die dit niet kan leveren, vormt een compliance-risico voor uw instelling.
Richt menselijk toezicht in
Zorg dat docenten altijd de mogelijkheid hebben om AI-beslissingen te corrigeren of te overrulen. Automatische beoordelingen zonder menselijke controle zijn onvoldoende.
Informeer leerlingen en ouders
Stel een helder overzicht op van de AI-systemen die u gebruikt en communiceer dit actief. De schoolgids of het studentenstatuut is een logische plek.
Train uw docenten
Zorg voor AI-geletterdheid op maat. Niet alleen theorie, maar praktische kennis over de specifieke tools die binnen uw instelling worden gebruikt.
Bouw een AI-register op
Documenteer alle AI-systemen, hun classificatie, de genomen maatregelen en de verantwoordelijke personen. Dit register is uw bewijs van compliance bij een eventuele inspectie.
EdTech-bedrijven: bereid u voor
Voor EdTech-bedrijven die AI-producten leveren aan het onderwijs, zijn de verplichtingen stevig. U bent aanbieder van een hoog-risico AI-systeem. Dat betekent: een volledig risicobeheersysteem, technische documentatie, data governance, logging, menselijk toezicht inbouwen in het product, een conformiteitsbeoordeling en registratie in de EU-databank.
Dat is fors. Maar het is ook een kans. EdTech-bedrijven die als eerste aantoonbaar voldoen aan de AI Act, hebben een concurrentievoordeel. Scholen en universiteiten zoeken leveranciers die hen niet in de problemen brengen. Compliance wordt een verkoopargument.
Veelgestelde vragen
Is online proctoring verboden?
Niet als zodanig. Monitoring van gedrag tijdens examens staat in Bijlage III, punt 3 en is dus hoog-risico, met alle documentatie- en toezichtseisen die daarbij horen. Verboden wordt het zodra het systeem emoties afleidt: emotieherkenning in het onderwijs valt onder Artikel 5, met alleen een uitzondering voor medische of veiligheidsdoeleinden.
Valt een adaptief leerprogramma onder Bijlage III?
Meestal niet. Een programma dat oefenstof aanpast aan het tempo van de leerling neemt geen beslissing over toelating, niveau of beoordeling. Zodra het systeem wél een niveauadvies of een cijfer produceert waarop de school handelt, verandert dat.
Wie is verantwoordelijk: de school of de EdTech-leverancier?
Beide, in verschillende rollen. De leverancier is aanbieder en draagt de zware documentatie- en conformiteitsplichten. De school is gebruiksverantwoordelijke: gebruiken volgens instructies, menselijk toezicht beleggen, leerlingen en ouders informeren, en de werking volgen (Artikel 26).
Moeten docenten AI-training krijgen?
Ja, als ze met AI werken. Artikel 4 geldt sinds 2 februari 2025 en is een organisatieplicht: passend bij de rol. Een docent die een AI-nakijkhulp gebruikt, heeft andere kennis nodig dan een systeembeheerder of een bestuurder.
Moeten wij ouders om toestemming vragen?
Dat is een AVG-vraag, geen AI Act-vraag, en toestemming is zelden de juiste grondslag in een onderwijsrelatie vanwege de afhankelijkheid. Wat de AI Act wel eist, is transparantie: leerlingen en ouders moeten weten dat en waarvoor AI wordt ingezet.
Begin met een inventarisatie
Of u nu een basisschool runt, een universiteit bestuurt of een EdTech-product ontwikkelt: de eerste stap is altijd hetzelfde. Breng in kaart welke AI u gebruikt en welke risico's daaraan verbonden zijn.
De gratis risicoscan laat in vijf minuten zien welke van uw systemen als hoog-risico gelden en welke verplichtingen daarbij horen.