Welke AI in het onderwijs is hoog-risico onder de AI Act? Het korte antwoord: systemen die bepalen wie wordt toegelaten, die leerresultaten beoordelen, die het passende onderwijsniveau vaststellen of die gedrag tijdens examens monitoren. Bijlage III, punt 3 noemt die vier expliciet. Een adaptief oefenprogramma zonder beoordelingsfunctie valt erbuiten.
Universiteiten zetten AI in om tentamens te bewaken. Basisscholen werken met adaptieve leersystemen die zich aanpassen aan het niveau van elk kind. EdTech-bedrijven leveren tools die docenten uren nakijkwerk besparen. Onderwijs en beroepsopleiding staan als gebruiksgebied in Bijlage III, punt 3 van de AI Act.
Waarom het onderwijs een hoog-risico domein is
De AI Act classificeert AI-systemen aan de hand van het risico dat ze vormen voor mensen. In Bijlage III van de verordening staat een lijst van domeinen waar AI-gebruik als hoog risico geldt. Onderwijs en beroepsopleiding staan daar expliciet op.
Daar zit een redenering achter. AI-systemen in het onderwijs nemen beslissingen die de toekomst van mensen beïnvloeden. Een algoritme dat bepaalt of een student wordt toegelaten tot een opleiding, raakt het recht op onderwijs. Een systeem dat toetsen beoordeelt, beïnvloedt diploma's en carrièrekansen. De gevolgen van fouten of vooroordelen in zulke systemen zijn groot en soms onomkeerbaar.
Niet elke AI-toepassing in het onderwijs is automatisch hoog risico. Een spellingscontrole in een schoolbibliotheeksysteem hoeft niet aan dezelfde strenge eisen te voldoen als een systeem dat selectiebeslissingen neemt. Het draait om de kernvraag: heeft het AI-systeem een materiële invloed op beslissingen die leerlingen of studenten raken?
Welke AI-toepassingen worden geraakt?
De lijst is langer dan veel onderwijsinstellingen beseffen.
AI voor toetsing en beoordeling is het meest voor de hand liggende voorbeeld. Denk aan systemen die open vragen automatisch nakijken, die essays beoordelen op kwaliteit, of die een cijfer toekennen op basis van patroonherkenning. Zodra een AI-systeem invloed heeft op de beoordeling van een leerling of student, is het waarschijnlijk hoog risico.
Toelatings- en selectiesystemen vormen een tweede categorie. Sommige universiteiten en hogescholen experimenteren met AI om aanmeldingen te screenen of te rangschikken. Elk systeem dat meebesluit over wie wordt toegelaten, valt onder de strengste regels.
Leerlingvolgsystemen (LVS) zijn in Nederland wijdverbreid. Systemen als ParnasSys en LOVS gebruiken data om de voortgang van leerlingen te monitoren. Wanneer deze systemen AI inzetten om voorspellingen te doen over leerprestaties of adviezen te genereren voor het schoolniveau, raakt dit de hoog-risico grens.
AI-proctoring is een bijzonder gevoelig onderwerp. Tijdens de coronapandemie groeide het gebruik van online surveillancetools voor tentamens explosief. Systemen als Proctorio en ProctorExam analyseren webcambeelden, toetsaanslagen en browsgedrag om fraude te detecteren. Dat combineert biometrische verwerking met beslissingen over studenten. Hoog risico, zonder twijfel.
Plagiaatdetectie met AI is een grijs gebied. Turnitin heeft een AI-detector toegevoegd die beoordeelt of tekst door AI is geschreven. Wanneer docenten dit resultaat gebruiken om een student van fraude te beschuldigen, heeft het systeem directe impact. De classificatie hangt af van hoe het systeem wordt ingezet: als hulpmiddel voor de docent, of als bepalende factor in een fraudebeslissing.
Adaptieve leerplatformen zoals Snappet, Gynzy en Learnbeat passen de leerstof aan op basis van het niveau en de voortgang van de leerling. Wanneer het platform alleen oefenstof varieert, is het risico beperkter. Doet het platform aanbevelingen over het leerniveau of de leerroute van een kind? Dan groeien de verplichtingen.
Het verbod op emotieherkenning in het onderwijs
Artikel 5 van de AI Act bevat een opvallende bepaling. AI-systemen die emoties herkennen op de werkplek en in onderwijsinstellingen zijn verboden. Dit verbod geldt al sinds 2 februari 2025.
Daaronder vallen systemen die via gezichtsherkenning, stemanalyse of lichaamshouding proberen te bepalen of een student aandachtig is, gefrustreerd raakt of verveeld is. Sommige EdTech-bedrijven hebben zulke functies aangeboden als middel om "engagement" te meten. Onder de AI Act mag dit niet meer.
Er zijn twee beperkte uitzonderingen: emotieherkenning voor medische doeleinden of voor veiligheidsdoeleinden. Het meten van studentbetrokkenheid of aandacht valt daar buiten.
Gebruikt uw instelling software die claimt emoties of aandacht van leerlingen te meten? Faseer dit direct uit.
Scholen als deployers, EdTech als providers
De AI Act maakt onderscheid tussen aanbieders (providers) en gebruiksverantwoordelijken (deployers). Dat onderscheid bepaalt wie in het onderwijs wat moet doen.
EdTech-bedrijven die AI-systemen ontwikkelen en op de markt brengen, zijn aanbieders. Zij dragen de zwaarste verplichtingen: conformiteitsbeoordeling, technische documentatie, risicobeheersysteem, CE-markering voor hoog-risico systemen. Zij moeten garanderen dat hun product aan de wet voldoet voordat het op de markt komt.
Scholen, universiteiten en andere onderwijsinstellingen zijn doorgaans deployers. Zij kopen AI-tools in en zetten deze in binnen hun organisatie. Maar ook deployers hebben verplichtingen die niet vrijblijvend zijn.
U moet het AI-systeem gebruiken volgens de gebruiksaanwijzing van de aanbieder (Artikel 26, lid 1). Het menselijk toezicht draagt u op aan mensen die daarvoor de bekwaamheid, de opleiding en de autoriteit hebben (lid 2). Heeft u zeggenschap over de inputdata, dan moeten die relevant en voldoende representatief zijn (lid 4). Logs bewaart u ten minste zes maanden (lid 6). Leerlingen en studenten (of hun ouders) moeten worden geïnformeerd dat het systeem op hen wordt toegepast (lid 11). Wat in Artikel 26 niet staat, is het systeem voor risicobeheer uit Artikel 9. Dat is een plicht van de aanbieder, niet van de school. Wel geldt voor onderwijsinstellingen bijna altijd Artikel 27, de beoordeling van de gevolgen voor de grondrechten. Die toets moet worden uitgevoerd door gebruiksverantwoordelijken die een publiekrechtelijk orgaan zijn of die als particuliere entiteit openbare diensten verlenen. Bekostigd onderwijs valt daar in de regel onder. Elk systeem hoort daarnaast in uw AI-register te staan.
Hier zit een belangrijk aandachtspunt. Veel onderwijsinstellingen gebruiken AI-tools zonder zich bewust te zijn van hun rol als deployer. Een school die een adaptief leerplatform inkoopt, is wettelijk verplicht om te controleren of de aanbieder aan de AI Act voldoet. Vraag uw leverancier naar de conformiteitsverklaring. Blijft die uit, dan heeft u een serieus risicosignaal te pakken.
Menselijk toezicht: de docent houdt de regie
Een kernprincipe van de AI Act bij hoog-risico systemen is menselijk toezicht. In het onderwijs betekent dit concreet: de docent blijft verantwoordelijk voor beslissingen die leerlingen raken.
Een AI-systeem mag een toets nakijken, maar een docent moet het eindcijfer kunnen bijstellen. Een systeem mag een schoolniveau-advies genereren, maar het advies van de docent weegt zwaarder. Een proctoringtool mag verdacht gedrag signaleren, maar een mens beslist of er sprake is van fraude.
Dat klinkt vanzelfsprekend. Toch sluipt automatisering erin. Wanneer 95 procent van de AI-beoordelingen wordt overgenomen zonder menselijke controle, is het toezicht een papieren werkelijkheid geworden. De AI Act vraagt om betekenisvol menselijk toezicht, uitgeoefend door iemand die de uitkomst ook echt kan bijstellen.
Transparantie naar leerlingen en ouders
Onderwijsinstellingen moeten transparant zijn over hun gebruik van AI. Leerlingen, studenten en (bij minderjarigen) ouders hebben het recht om te weten wanneer AI wordt ingezet bij beoordeling, selectie of begeleiding.
Informeer leerlingen en ouders actief over welke AI-systemen worden gebruikt. Leg uit waarvoor de systemen dienen en welke rol ze spelen in beslissingen. Bied de mogelijkheid om bezwaar te maken of een menselijke herbeoordeling te vragen. Documenteer dit alles in uw AI-register.
Voor universiteiten geldt dit ook bij proctoring. Studenten moeten vooraf weten dat AI wordt ingezet om hun tentamen te bewaken, welke data worden verzameld en hoe deze worden verwerkt. Vooraf dus, niet in de bezwaarprocedure.
AI-geletterdheid: docenten voorbereiden
Artikel 4 van de AI Act verplicht alle organisaties die AI gebruiken om te zorgen voor AI-geletterdheid bij hun personeel. Voor het onderwijs is deze verplichting extra relevant. De plicht geldt al sinds 2 februari 2025.
Docenten zijn de eerste lijn: zij werken dagelijks met AI-tools en nemen beslissingen op basis van AI-uitkomsten. Een leraar die een leerlingvolgsysteem gebruikt maar niet begrijpt hoe de AI-voorspellingen tot stand komen, kan verkeerde conclusies trekken. Een docent die blind vertrouwt op een AI-plagiaatdetector, riskeert een onterechte fraudebeschuldiging.
AI-geletterdheid voor docenten gaat verder dan een basiscursus "wat is AI". Het draait om praktisch begrip van de tools die zij gebruiken. Hoe werkt het adaptieve algoritme van het leerplatform? Welke data verwerkt de proctoringtool? Hoe betrouwbaar zijn de uitkomsten van de plagiaatdetector? Wanneer moet ik als docent ingrijpen?
Hier ligt een taak voor schoolbesturen en universiteitsbesturen. Investeer in een doorlopend trainingsprogramma dat meeontwikkelt met de technologie. Een eenmalige workshop is na een jaar achterhaald.
Praktische stappen voor onderwijsinstellingen
Breng alle AI-systemen in kaart
Loop alle software langs die uw instelling gebruikt. Zit er AI in het leerlingvolgsysteem, in de toetsomgeving of in administratieve systemen? Het digitale leermateriaal hoort er ook bij. Maak een complete lijst.
Classificeer elk systeem
Bepaal per systeem of het hoog risico is. De kernvraag blijft: beïnvloedt dit systeem beslissingen over leerlingen of studenten?
Controleer op verboden toepassingen
Software die emoties of aandacht van leerlingen meet, is verboden sinds februari 2025. Faseer het uit als u het nog gebruikt.
Vraag leveranciers om documentatie
EdTech-aanbieders zijn verantwoordelijk voor conformiteitsbeoordelingen en technische documentatie. Vraag hier actief naar. Een leverancier die dit niet kan leveren, vormt een compliance-risico voor uw instelling.
Richt menselijk toezicht in
Zorg dat docenten altijd de mogelijkheid hebben om AI-beslissingen te corrigeren of te overrulen. Automatische beoordelingen zonder menselijke controle zijn onvoldoende.
Informeer leerlingen en ouders
Stel een overzicht op van de AI-systemen die u gebruikt en communiceer dit actief. De schoolgids of het studentenstatuut is een logische plek.
Train uw docenten
Zorg voor AI-geletterdheid die past bij de rol. Praktische kennis over de tools die binnen uw instelling draaien weegt zwaarder dan theorie over AI in het algemeen.
Bouw een AI-register op
Documenteer alle AI-systemen, hun classificatie, de genomen maatregelen en de verantwoordelijke personen. Dit register is uw bewijs van compliance bij een eventuele inspectie.
EdTech-bedrijven: bereid u voor
Voor EdTech-bedrijven die AI-producten leveren aan het onderwijs, zijn de verplichtingen stevig. U bent aanbieder van een hoog-risico AI-systeem. Dat betekent: een volledig risicobeheersysteem, technische documentatie, data governance, logging, menselijk toezicht inbouwen in het product, een conformiteitsbeoordeling en registratie in de EU-databank.
Dat is een forse investering met een commerciële kant. EdTech-bedrijven die als eerste aantoonbaar voldoen aan de AI Act hebben iets te laten zien in een aanbesteding. Scholen en universiteiten zoeken leveranciers die hun eigen dossier op orde hebben.
Veelgestelde vragen
Is online proctoring verboden?
Niet als zodanig. Monitoring van gedrag tijdens examens staat in Bijlage III, punt 3 en is dus hoog-risico, met alle documentatie- en toezichtseisen die daarbij horen. Verboden wordt het zodra het systeem emoties afleidt: emotieherkenning in het onderwijs valt onder Artikel 5, met alleen een uitzondering voor medische of veiligheidsdoeleinden.
Valt een adaptief leerprogramma onder Bijlage III?
Meestal niet. Een programma dat oefenstof aanpast aan het tempo van de leerling neemt geen beslissing over toelating, niveau of beoordeling. Zodra het systeem wél een niveauadvies of een cijfer produceert waarop de school handelt, verandert dat.
Wie is verantwoordelijk: de school of de EdTech-leverancier?
Beide, in verschillende rollen. De leverancier is aanbieder en draagt de zware documentatie- en conformiteitsplichten. De school is gebruiksverantwoordelijke: gebruiken volgens instructies, menselijk toezicht beleggen, leerlingen en ouders informeren en de werking volgen (Artikel 26).
Moeten docenten AI-training krijgen?
Ja, als ze met AI werken. Artikel 4 geldt sinds 2 februari 2025 en is een organisatieplicht: passend bij de rol. Een docent die een AI-nakijkhulp gebruikt, heeft andere kennis nodig dan een systeembeheerder of een bestuurder.
Moeten wij ouders om toestemming vragen?
Dat is een AVG-vraag, geen AI Act-vraag. Toestemming is in een onderwijsrelatie zelden de juiste grondslag, omdat de afhankelijkheid te groot is. Wat de AI Act wel eist, is transparantie: leerlingen en ouders moeten weten dat en waarvoor AI wordt ingezet.
Begin met een inventarisatie
Of u nu een basisschool runt, een universiteit bestuurt of een EdTech-product ontwikkelt: de eerste stap is altijd hetzelfde. Breng in kaart welke AI u gebruikt en welke risico's daaraan verbonden zijn.
De gratis risicoscan laat in vijf minuten zien welke van uw systemen als hoog-risico gelden en welke verplichtingen daarbij horen.