Welke AI in het onderwijs is hoog-risico onder de AI Act? Het korte antwoord: systemen die bepalen wie wordt toegelaten, die leerresultaten beoordelen, die het passende onderwijsniveau vaststellen of die gedrag tijdens examens monitoren. Bijlage III, punt 3 noemt die vier expliciet. Een adaptief oefenprogramma zonder beoordelingsfunctie valt erbuiten.
Universiteiten zetten AI in om tentamens te bewaken. Basisscholen werken met adaptieve leersystemen die zich aanpassen aan het niveau van elk kind. EdTech-bedrijven leveren tools die docenten uren nakijkwerk besparen. Onderwijs en beroepsopleiding staan als gebruiksgebied in Bijlage III, punt 3 van de AI Act.
Welke onderwijs-AI onder Bijlage III valt
De AI Act classificeert AI-systemen aan de hand van het risico dat ze vormen voor mensen. Bijlage III is geordend naar gebruiksgebied en wijst binnen elk gebied specifieke AI-systemen aan. Voor onderwijs en beroepsopleiding zijn dat de vier functies uit Bijlage III, punt 3, a tot en met d. Onderwijs en beroepsopleiding staan daar expliciet op.
Daar zit een redenering achter. AI-systemen in het onderwijs nemen beslissingen die de toekomst van mensen beïnvloeden. Een algoritme dat bepaalt of een student wordt toegelaten tot een opleiding, raakt het recht op onderwijs. Een systeem dat toetsen beoordeelt, beïnvloedt diploma's en carrièrekansen. De gevolgen van fouten of vooroordelen in zulke systemen zijn groot en soms onomkeerbaar.
Niet elke AI-toepassing in het onderwijs is automatisch hoog risico. Een spellingscontrole in een schoolbibliotheeksysteem hoeft niet aan dezelfde strenge eisen te voldoen als een systeem dat selectiebeslissingen neemt. Het draait om de kernvraag: heeft het AI-systeem een materiële invloed op beslissingen die leerlingen of studenten raken?
Welke AI-toepassingen worden geraakt?
De lijst is langer dan veel onderwijsinstellingen beseffen.
AI voor toetsing en beoordeling is het meest voor de hand liggende voorbeeld. Denk aan systemen die open vragen automatisch nakijken, die essays beoordelen op kwaliteit, of die een cijfer toekennen op basis van patroonherkenning. Zodra een AI-systeem invloed heeft op de beoordeling van een leerling of student, is het waarschijnlijk hoog risico.
Toelatings- en selectiesystemen vormen een tweede categorie. Sommige universiteiten en hogescholen experimenteren met AI om aanmeldingen te screenen of te rangschikken. Een systeem dat de toegang of toelating tot een opleiding bepaalt of aanmeldingen aan instellingen toewijst, valt onder Bijlage III, punt 3(a). Voert het alleen een beperkte procedurele of voorbereidende taak uit en profileert het niet, dan valt het er alsnog buiten (Artikel 6, lid 3).
Leerlingvolgsystemen (LVS) zijn in Nederland wijdverbreid. Systemen als ParnasSys en LOVS gebruiken data om de voortgang van leerlingen te monitoren. Wanneer deze systemen AI inzetten om voorspellingen te doen over leerprestaties of adviezen te genereren voor het schoolniveau, raakt dit de hoog-risico grens.
AI-proctoring is een bijzonder gevoelig onderwerp. Tijdens de coronapandemie groeide het gebruik van online surveillancetools voor tentamens explosief. Systemen als Proctorio en ProctorExam analyseren webcambeelden, toetsaanslagen en browsgedrag om fraude te detecteren. Dat combineert biometrische verwerking met beslissingen over studenten. Hoog risico, zonder twijfel.
Plagiaatdetectie met AI is een grijs gebied. Turnitin heeft een AI-detector toegevoegd die beoordeelt of tekst door AI is geschreven. Wanneer docenten dit resultaat gebruiken om een student van fraude te beschuldigen, heeft het systeem directe impact. De classificatie hangt af van hoe het systeem wordt ingezet: als hulpmiddel voor de docent, of als bepalende factor in een fraudebeslissing.
Adaptieve leerplatformen zoals Snappet, Gynzy en Learnbeat passen de leerstof aan op basis van het niveau en de voortgang van de leerling. Wanneer het platform alleen oefenstof varieert, is het risico beperkter. Doet het platform aanbevelingen over het leerniveau of de leerroute van een kind? Dan groeien de verplichtingen.
Het verbod op emotieherkenning in het onderwijs
Artikel 5 van de AI Act bevat een opvallende bepaling. AI-systemen die op basis van biometrische gegevens de emoties van een leerling of medewerker afleiden, zijn verboden op de werkplek en in het onderwijs (Artikel 5, lid 1, punt f). Dit verbod geldt al sinds 2 februari 2025.
Daaronder vallen systemen die via gezichtsherkenning, stemanalyse of lichaamshouding proberen te bepalen of een student aandachtig is, gefrustreerd raakt of verveeld is. Sommige EdTech-bedrijven hebben zulke functies aangeboden als middel om "engagement" te meten. Onder de AI Act mag dit niet meer.
Er zijn twee beperkte uitzonderingen: emotieherkenning voor medische doeleinden of voor veiligheidsdoeleinden. Het meten van studentbetrokkenheid of aandacht valt daar buiten.
Gebruikt uw instelling software die claimt emoties of aandacht van leerlingen te meten? Faseer dit direct uit.
Scholen als deployers, EdTech als providers
De AI Act maakt onderscheid tussen aanbieders (providers) en gebruiksverantwoordelijken (deployers). Dat onderscheid bepaalt wie in het onderwijs wat moet doen.
EdTech-bedrijven die AI-systemen ontwikkelen en onder eigen naam in de handel brengen of in gebruik stellen, zijn aanbieders (Artikel 3, punt 3). Zij dragen de zwaarste verplichtingen: conformiteitsbeoordeling, technische documentatie, risicobeheersysteem, CE-markering voor hoog-risico systemen. Zij zorgen ervoor dat hun product aan de eisen voldoet voordat het in de handel wordt gebracht of in gebruik wordt gesteld (Artikel 16).
Scholen, universiteiten en andere onderwijsinstellingen zijn doorgaans deployers. Zij kopen AI-tools in en zetten deze in binnen hun organisatie. Maar ook deployers hebben verplichtingen die niet vrijblijvend zijn.
Zet uw instelling een AI-systeem in dat onder Bijlage III valt, dan gelden vanaf 2 december 2027 de plichten van Artikel 26: u gebruikt het systeem volgens de gebruiksaanwijzing van de aanbieder (lid 1). Het menselijk toezicht draagt u op aan mensen die daarvoor de bekwaamheid, de opleiding en de autoriteit hebben (lid 2). Heeft u zeggenschap over de inputdata, dan moeten die relevant en voldoende representatief zijn (lid 4). Logs bewaart u ten minste zes maanden (lid 6). Neemt het systeem beslissingen over leerlingen of helpt het die nemen, dan informeert u die leerlingen dat het op hen wordt toegepast (lid 11). Of u daarnaast de ouders informeert, volgt uit de AVG en niet uit Artikel 26. Wat in Artikel 26 niet staat, is het systeem voor risicobeheer uit Artikel 9. Dat is een plicht van de aanbieder, niet van de school. Zet u wél een Bijlage III-systeem in, dan komt daar vanaf diezelfde datum Artikel 27 bij, de beoordeling van de gevolgen voor de grondrechten, die u vóór het eerste gebruik uitvoert (Artikel 27, lid 1 en lid 2). Die toets moet worden uitgevoerd door gebruiksverantwoordelijken die een publiekrechtelijk orgaan zijn of die als particuliere entiteit openbare diensten verlenen. Bekostigd onderwijs valt daar in de regel onder. Elk systeem hoort daarnaast in uw AI-register te staan.
Hier zit een belangrijk aandachtspunt. Veel onderwijsinstellingen gebruiken AI-tools zonder zich bewust te zijn van hun rol als deployer. De AI Act legt een school geen algemene plicht op om de conformiteit van haar leverancier te toetsen. Bent u een overheidsinstantie en zet u een Bijlage III-systeem in, dan gaat u vanaf 2 december 2027 wel na of dat systeem in de EU-databank staat. Staat het er niet in, dan gebruikt u het niet (Artikel 26, lid 8). Vraag uw leverancier naar de conformiteitsverklaring. Blijft die uit, dan heeft u een serieus risicosignaal te pakken.
Menselijk toezicht: de docent houdt de regie
Een kernprincipe van de AI Act bij hoog-risico systemen is menselijk toezicht. In het onderwijs betekent dit concreet: de docent blijft verantwoordelijk voor beslissingen die leerlingen raken.
Een AI-systeem mag een toets nakijken, maar een docent moet het eindcijfer kunnen bijstellen. Een systeem mag een schoolniveau-advies genereren, maar het advies van de docent weegt zwaarder. Een proctoringtool mag verdacht gedrag signaleren, maar een mens beslist of er sprake is van fraude.
Dat klinkt vanzelfsprekend. Toch sluipt automatisering erin. Wordt de uitkomst van het systeem in de praktijk vrijwel altijd zonder eigen afweging overgenomen, dan is het toezicht een papieren werkelijkheid geworden. De AI Act vraagt om betekenisvol menselijk toezicht, uitgeoefend door iemand die de uitkomst ook echt kan bijstellen.
Transparantie naar leerlingen en ouders
Twee sporen vragen om transparantie: Artikel 26 lid 11 van de AI Act voor Bijlage III-systemen die over leerlingen meebeslissen, plus de informatieplicht uit artikel 13 en 14 AVG voor elke verwerking van persoonsgegevens. Leerlingen, studenten en (bij minderjarigen) ouders hebben het recht om te weten wanneer AI wordt ingezet bij beoordeling, selectie of begeleiding.
Informeer leerlingen en ouders actief over welke AI-systemen worden gebruikt. Leg uit waarvoor de systemen dienen en welke rol ze spelen in beslissingen. Bied de mogelijkheid om bezwaar te maken of een menselijke herbeoordeling te vragen. Documenteer dit alles in uw AI-register.
Voor universiteiten geldt dit ook bij proctoring. Studenten moeten vóór het tentamen weten dat AI wordt ingezet om het te bewaken (Artikel 26, lid 11), plus welke gegevens daarbij worden verzameld en verwerkt (artikel 13 AVG). Vooraf dus, niet in de bezwaarprocedure.
AI-geletterdheid: docenten voorbereiden
Artikel 4 van de AI Act vraagt van aanbieders en gebruiksverantwoordelijken dat zij maatregelen nemen die de AI-geletterdheid van hun personeel bevorderen, rekening houdend met kennis, ervaring, opleiding en gebruikscontext. Een bepaald kennisniveau per persoon hoeft u niet te garanderen. Voor het onderwijs is deze verplichting extra relevant. De plicht geldt al sinds 2 februari 2025.
Docenten zijn de eerste lijn: zij werken dagelijks met AI-tools en nemen beslissingen op basis van AI-uitkomsten. Een leraar die een leerlingvolgsysteem gebruikt maar niet begrijpt hoe de AI-voorspellingen tot stand komen, kan verkeerde conclusies trekken. Een docent die blind vertrouwt op een AI-plagiaatdetector, riskeert een onterechte fraudebeschuldiging.
AI-geletterdheid voor docenten gaat verder dan een basiscursus "wat is AI". Het draait om praktisch begrip van de tools die zij gebruiken. Hoe werkt het adaptieve algoritme van het leerplatform? Welke data verwerkt de proctoringtool? Hoe betrouwbaar zijn de uitkomsten van de plagiaatdetector? Wanneer moet ik als docent ingrijpen?
Hier ligt een taak voor schoolbesturen en universiteitsbesturen. Investeer in een doorlopend trainingsprogramma dat meeontwikkelt met de technologie. Een eenmalige workshop is na een jaar achterhaald.
Praktische stappen voor onderwijsinstellingen
Breng alle AI-systemen in kaart
Loop alle software langs die uw instelling gebruikt. Zit er AI in het leerlingvolgsysteem, in de toetsomgeving of in administratieve systemen? Het digitale leermateriaal hoort er ook bij. Maak een complete lijst.
Classificeer elk systeem
Bepaal per systeem of het hoog risico is. De kernvraag blijft: beïnvloedt dit systeem beslissingen over leerlingen of studenten?
Controleer op verboden toepassingen
Software die op basis van biometrische gegevens emoties van leerlingen afleidt, is verboden sinds 2 februari 2025 (Artikel 5, lid 1, punt f). Faseer die uit als u haar nog gebruikt. Meet een systeem alleen aandacht of aanwezigheid zonder emoties af te leiden, beoordeel het dan langs de AVG.
Vraag leveranciers om documentatie
EdTech-aanbieders zijn verantwoordelijk voor conformiteitsbeoordelingen en technische documentatie. Vraag hier actief naar. Een leverancier die dit niet kan leveren, vormt een compliance-risico voor uw instelling.
Richt menselijk toezicht in
Zorg dat docenten altijd de mogelijkheid hebben om AI-beslissingen te corrigeren of te overrulen. Automatische beoordelingen zonder menselijke controle zijn onvoldoende.
Informeer leerlingen en ouders
Stel een overzicht op van de AI-systemen die u gebruikt en communiceer dit actief. De schoolgids of het studentenstatuut is een logische plek.
Train uw docenten
Neem maatregelen voor de AI-geletterdheid van docenten die bij hun werk met AI passen. Praktische kennis over de tools die binnen uw instelling draaien weegt zwaarder dan theorie over AI in het algemeen.
Bouw een AI-register op
Documenteer alle AI-systemen, hun classificatie, de genomen maatregelen en de verantwoordelijke personen. Dit register is uw bewijs van compliance bij een eventuele inspectie.
EdTech-bedrijven: bereid u voor
Voor EdTech-bedrijven die AI-producten leveren aan het onderwijs, zijn de verplichtingen stevig. U bent aanbieder van een hoog-risico AI-systeem. Dat betekent: een volledig risicobeheersysteem, technische documentatie, data governance, logging, menselijk toezicht inbouwen in het product, een conformiteitsbeoordeling en registratie in de EU-databank.
Dat is een forse investering met een commerciële kant. EdTech-bedrijven die als eerste aantoonbaar voldoen aan de AI Act hebben iets te laten zien in een aanbesteding. Scholen en universiteiten zoeken leveranciers die hun eigen dossier op orde hebben.
Veelgestelde vragen
Is online proctoring verboden?
Niet als zodanig. Het monitoren en detecteren van ongeoorloofd gedrag van studenten tijdens toetsen staat in Bijlage III, punt 3(d). Daarmee is het hoog-risico. De documentatie- en toezichtseisen die daarbij horen, gelden vanaf 2 december 2027. Verboden wordt het zodra het systeem op basis van biometrische gegevens emoties afleidt (Artikel 5, lid 1, punt f), met alleen een uitzondering wanneer de inzet uit medische of veiligheidsoverwegingen is bedoeld.
Valt een adaptief leerprogramma onder Bijlage III?
Meestal niet. Een programma dat oefenstof aanpast aan het tempo van de leerling neemt geen beslissing over toelating, niveau of beoordeling. Zodra het systeem wél een niveauadvies of een cijfer produceert waarop de school handelt, verandert dat.
Wie is verantwoordelijk: de school of de EdTech-leverancier?
Beide, in verschillende rollen. De leverancier is aanbieder en draagt de zware documentatie- en conformiteitsplichten. De school is gebruiksverantwoordelijke: gebruiken volgens de gebruiksaanwijzing, menselijk toezicht beleggen, de betrokken leerlingen informeren en de werking volgen. Die plichten uit Artikel 26 gelden voor Bijlage III-systemen vanaf 2 december 2027.
Moeten docenten AI-training krijgen?
Ja, als ze met AI werken. Artikel 4 geldt sinds 2 februari 2025 en is een organisatieplicht, waarbij u rekening houdt met kennis, ervaring en de context waarin iemand AI gebruikt. Een docent die een AI-nakijkhulp gebruikt, heeft andere kennis nodig dan een systeembeheerder of een bestuurder.
Moeten wij ouders om toestemming vragen?
Dat is een AVG-vraag, geen AI Act-vraag. Toestemming is in een onderwijsrelatie zelden de juiste grondslag, omdat de afhankelijkheid te groot is. Wat de AI Act eist, is dat u de leerling zelf informeert wanneer een Bijlage III-systeem beslissingen over hem neemt of helpt nemen (Artikel 26, lid 11). Dat u ouders daarover inlicht, volgt uit de AVG.
Begin met een inventarisatie
Of u nu een basisschool runt, een universiteit bestuurt of een EdTech-product ontwikkelt: de eerste stap is altijd hetzelfde. Breng in kaart welke AI u gebruikt en welke risico's daaraan verbonden zijn.
De gratis risicoscan laat in vijf minuten zien welke van uw systemen als hoog-risico gelden en welke verplichtingen daarbij horen.