Hoofdstuk IX. Monitoring na het in de handel brengen, informatie-uitwisseling en markttoezicht

Aanbieders moeten een systeem voor monitoring na het in de handel brengen vaststellen en documenteren op een manier die evenredig is aan de aard van de AI-technologieën en de risico’s van het AI-systeem met een hoog risico.

Het systeem voor monitoring na het in de handel brengen verzamelt, documenteert en analyseert actief en systematisch relevante data die door gebruiksverantwoordelijken kunnen zijn verstrekt of via andere bronnen kunnen zijn verzameld, over de prestaties van AI-systemen met een hoog risico gedurende hun hele levensduur, en die de aanbieder in staat stellen na te gaan of AI-systemen blijvend voldoen aan de in hoofdstuk III, afdeling 2, vermelde voorschriften. In voorkomend geval omvat de monitoring na het in de handel brengen een analyse van de interactie met andere AI-systemen. Deze verplichting geldt niet voor gevoelige operationele gegevens van gebruiksverantwoordelijken die rechtshandhavingsinstanties zijn.

Het systeem voor monitoring na het in de handel brengen, is gebaseerd op een plan voor monitoring na het in de handel brengen. Het plan voor monitoring na het in de handel brengen, maakt deel uit van de in bijlage IV bedoelde technische documentatie. De Commissie stelt uiterlijk op 2 september 2027 richtsnoeren vast, met inbegrip van een model, voor het plan voor monitoring na het in de handel brengen en houdt daarbij zoveel mogelijk rekening met het advies van de AI-board.

Voor AI-systemen met een hoog risico die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, hebben aanbieders, indien er krachtens die wetgeving reeds een systeem en een plan voor monitoring na het in de handel brengen zijn vastgesteld, ten behoeve van de consistentie, ter vermijding van doublures en om extra lasten tot een minimum te beperken, de keuze om de noodzakelijke in de leden 1, 2 en 3 beschreven elementen te integreren, met gebruikmaking van het in lid 3 bedoelde model, in systemen en plannen die reeds bestaan op grond van die wetgeving, mits dat een gelijkwaardig beschermingsniveau garandeert. De eerste alinea van dit lid is ook van toepassing op in punt 5 van bijlage III bedoelde aI-systemen met een hoog risico die in de handel worden gebracht of in gebruik worden gesteld door financiële instellingen waarvoor krachtens het Unierecht inzake financiële diensten vereisten met betrekking tot hun interne governance, regelingen of processen gelden.

Aanbieders van in de Unie in de handel gebrachte AI-systemen met een hoog risico melden ernstige incidenten bij de markttoezichtautoriteiten van de lidstaten waarin dat incident heeft plaatsgevonden.

De in lid 1 bedoelde melding wordt gedaan onmiddellijk nadat de aanbieder een oorzakelijk verband tussen het AI-systeem en het ernstige incident of de redelijke waarschijnlijkheid van een dergelijk verband heeft vastgesteld en in ieder geval uiterlijk 15 dagen nadat de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke zich bewust wordt van het ernstige incident. Bij de in de eerste alinea bedoelde meldingstermijn wordt rekening gehouden met de ernst van het ernstige incident.

Niettegenstaande lid 2 van dit artikel wordt bij een wijdverbreide inbreuk of een ernstig incident, zoals gedefinieerd in artikel 3, punt 49), b), de in lid 1 van dit artikel bedoelde melding onmiddellijk gedaan, doch uiterlijk twee dagen nadat de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke zich bewust wordt van dat incident.

Niettegenstaande lid 2 wordt bij overlijden van een persoon de melding gedaan onmiddellijk nadat de aanbieder of de gebruiksverantwoordelijke een oorzakelijk verband heeft vastgesteld, of zodra hij of zij dit vermoedt, tussen het AI-systeem met een hoog risico en het ernstige incident, doch uiterlijk tien dagen na de datum waarop de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke zich bewust wordt van het ernstige incident.

Indien dit nodig is om tijdige melding te waarborgen, kan de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke een eerste, onvolledige, melding doen die wordt gevolgd door een volledige melding.

Na de melding van een ernstig incident op grond van lid 1 verricht de aanbieder onverwijld het nodige onderzoek in verband met het ernstige incident en het betrokken AI-systeem. Dit omvat een risicobeoordeling van het incident en corrigerende maatregelen. De aanbieder werkt tijdens het in de eerste alinea genoemde onderzoek samen met de bevoegde autoriteiten en, in voorkomend geval, met de betrokken aangemelde instantie, en verricht geen onderzoek waarbij het AI-systeem wordt gewijzigd op een wijze die van invloed kan zijn op de latere evaluatie van de oorzaken van het incident, zonder de bevoegde autoriteiten daarvan vooraf in kennis te stellen.

Na ontvangst van een melding met betrekking tot een ernstig incident als bedoeld in artikel 3, punt 49), c), stelt de betrokken markttoezichtautoriteit de in artikel 77, lid 1, bedoelde nationale overheidsinstanties of -organen in kennis. De Commissie ontwikkelt specifieke richtsnoeren om nakoming van de in lid 1 van dit artikel vermelde verplichtingen te vergemakkelijken. Die richtsnoeren worden uiterlijk op 2 augustus 2025 uitgevaardigd en worden regelmatig geëvalueerd.

De markttoezichtautoriteit neemt passende maatregelen, zoals bedoeld in artikel 19 van Verordening (EU) 2019/1020, binnen zeven dagen na de datum waarop zij de in lid 1 van dit artikel bedoelde kennisgeving heeft ontvangen, en volgt de kennisgevingsprocedures waarin die verordening voorziet.

Voor in bijlage III vermelde AI-systemen met een hoog risico die in de handel zijn gebracht of in gebruik zijn gesteld door aanbieders die onderworpen zijn aan rechtsinstrumenten van de Unie met meldingsverplichtingen die gelijkwaardig zijn aan die van deze verordening, is de melding van ernstige incidenten beperkt tot de in artikel 3, punt 49), c), bedoelde incidenten.

Voor AI-systemen met een hoog risico die veiligheidscomponenten van apparaten zijn of zelf apparaten zijn die onder de Verordeningen (EU) 2017/745 en (EU) 2017/746 vallen, wordt de melding van ernstige incidenten beperkt tot de in artikel 3, punt 49), c), van de onderhavige verordening bedoelde incidenten, en wordt het incident gemeld bij de nationale bevoegde autoriteit die daartoe is aangewezen door de lidstaten waar dat incident zich heeft voorgedaan.

De nationale bevoegde autoriteiten stellen de Commissie onmiddellijk in kennis van elk ernstig incident, ongeacht of zij al dan niet maatregelen hebben getroffen, overeenkomstig artikel 20 van Verordening (EU) 2019/1020.

Verordening (EU) 2019/1020 is van toepassing op AI-systemen die onder deze verordening vallen. Ten behoeve van de doeltreffende handhaving van deze verordening geldt echter het volgende:

a)

verwijzingen naar een marktdeelnemer krachtens Verordening (EU) 2019/1020 worden begrepen als verwijzingen naar alle in artikel 2, lid 1, van deze verordening geïdentificeerde operators;

b)

verwijzingen naar een product krachtens Verordening (EU) 2019/1020 worden begrepen als verwijzingen naar alle AI-systemen die binnen het toepassingsgebied van deze verordening vallen.

In het kader van hun rapportageverplichtingen krachtens artikel 34, lid 4, van Verordening (EU) 2019/1020 brengen de markttoezichtautoriteiten jaarlijks aan de Commissie en de bevoegde nationale mededingingsautoriteiten verslag uit over alle informatie die in het kader van markttoezichtactiviteiten is verkregen en die van belang kan zijn voor de toepassing van het Unierecht inzake mededingingsregels. Daarnaast brengen zij de Commissie jaarlijks verslag uit over het gebruik van verboden praktijken in de loop van dat jaar en over de maatregelen die genomen zijn.

Voor AI-systemen met een hoog risico met betrekking tot producten waarop de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie van toepassing is, is voor de toepassing van deze verordening de markttoezichtautoriteit de autoriteit die verantwoordelijk is voor markttoezichtactiviteiten uit hoofde van die rechtshandelingen. In afwijking van de eerste alinea kunnen de lidstaten in passende omstandigheden een andere relevante autoriteit aanwijzen om als markttoezichtautoriteit op te treden, mits zij zorgen voor coördinatie met de relevante sectorale markttoezichtautoriteiten die verantwoordelijk zijn voor de handhaving van de in bijlage I vermelde harmonisatiewetgeving van de Unie.

De in de artikelen 79 tot en met 83 van deze verordening bedoelde procedures zijn niet van toepassing op AI-systemen die verband houden met producten waarop in de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie van toepassing is, indien de betrokken rechtshandelingen reeds voorzien in procedures die een gelijkwaardig niveau van bescherming waarborgen en hetzelfde doel hebben. In dergelijke gevallen zijn in plaats daarvan de betrokken sectorale procedures van toepassing.

Onverminderd de bevoegdheden van markttoezichtautoriteiten krachtens artikel 14 van Verordening (EU) 2019/1020 kunnen markttoezichtautoriteiten met het oog op de doeltreffende handhaving van deze verordening de in artikel 14, lid 4, punten d) en j), van die verordening bedoelde bevoegdheden naargelang van het geval op afstand uitoefenen.

Voor AI-systemen met een hoog risico die in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt door financiële instellingen die onder het Unierecht inzake financiële diensten vallen, is de markttoezichtautoriteit voor de toepassing van deze verordening de relevante nationale autoriteit die verantwoordelijk is voor het financiële toezicht op die instellingen krachtens die wetgeving, voor zover het in de handel brengen, in gebruik stellen of gebruik van het AI-systeem rechtstreeks verband houdt met de verlening van die financiële diensten.

In afwijking van lid 6 kan in gerechtvaardigde omstandigheden en op voorwaarde dat er coördinatie wordt gewaarborgd, een andere relevante autoriteit door de lidstaat als markttoezichtautoriteit worden aangewezen voor de toepassing van deze verordening. Nationale markttoezichtautoriteiten die toezicht houden op gereglementeerde kredietinstellingen die onder Richtlijn 2013/36/EU vallen en die deelnemen aan het bij Verordening (EU) nr. 1024/2013 ingestelde gemeenschappelijk toezichtsmechanisme, moeten onverwijld bij de Europese Centrale Bank alle informatie melden die zij bij hun markttoezichtactiviteiten hebben verkregen en die potentieel van belang kan zijn voor de in die verordening nader bepaalde prudentiële-toezichtstaken van de Europese Centrale Bank.

Voor AI-systemen met een hoog risico die zijn vermeld in punt 1 van bijlage III, bij deze verordening, voor zover die systemen worden gebruikt voor rechtshandhavingsdoeleinden, grenstoezicht en rechtsbedeling en democratie, en voor AI-systemen met een hoog risico die zijn vermeld in de punten 6, 7 en 8 van bijlage III, bij deze verordening wijzen de lidstaten als markttoezichtautoriteiten voor de toepassing van deze verordening hetzij de bevoegde toezichthoudende autoriteiten voor gegevensbescherming krachtens Verordening (EU) 2016/679 of Richtlijn (EU) 2016/680 aan, hetzij een andere autoriteit die is aangewezen onder dezelfde voorwaarden van de artikelen 41 tot en met 44 van Richtlijn (EU) 2016/680. De markttoezichtactiviteiten mogen geenszins afbreuk doen aan de onafhankelijkheid van gerechtelijke instanties of anderszins afbreuk doen aan hun activiteiten wanneer zij optreden in hun gerechtelijke hoedanigheid.

Indien instellingen, organen of instanties van de Unie binnen het toepassingsgebied van deze verordening vallen, treedt de Europese Toezichthouder voor gegevensbescherming als hun markttoezichtautoriteit op, behalve ten aanzien van het Hof van Justitie van de Europese Unie in zijn gerechtelijke hoedanigheid.

De lidstaten faciliteren de coördinatie tussen krachtens deze verordening aangewezen markttoezichtautoriteiten en andere relevante nationale autoriteiten of instanties die toezicht houden op de toepassing van de in bijlage I vermelde harmonisatiewetgeving van de Unie of andere Unieregels, die mogelijk relevant kunnen zijn voor de in bijlage III vermelde AI-systemen met een hoog risico.

Markttoezichtautoriteiten en de Commissie kunnen gezamenlijke activiteiten, waaronder gezamenlijke onderzoeken, voorstellen die door markttoezichtautoriteiten alleen of gezamenlijk met de Commissie moeten worden uitgevoerd, met als doel de naleving te bevorderen, niet-naleving vast te stellen, bewustmaking of richtsnoeren met betrekking tot deze verordening te verstrekken over specifieke categorieën AI-systemen met een hoog risico die in twee of meer lidstaten een ernstig risico blijken te vormen, overeenkomstig artikel 9 van Verordening (EU) 2019/1020. Het AI-bureau draagt zorg voor coördinerende ondersteuning van gezamenlijke onderzoeken.

Onverminderd de bevoegdheden krachtens Verordening (EU) 2019/1020, en voor zover relevant en beperkt tot wat nodig is om hun taken uit te voeren, verlenen aanbieders de markttoezichtautoriteiten volledige toegang tot de documentatie en tot de datasets voor het trainen, valideren en testen die worden gebruikt voor de ontwikkeling van AI-systemen met een hoog risico, onder meer, in voorkomend geval en met inachtneming van beveiligingswaarborgen, via applicatieprogramma-interfaces („API’s”) of andere relevante technische middelen en instrumenten die toegang op afstand mogelijk maken.

Markttoezichtautoriteiten wordt toegang tot de broncode van het AI-systeem met een hoog risico verleend op een met redenen omkleed verzoek en uitsluitend als aan beide onderstaande voorwaarden wordt voldaan:

a)

toegang tot de broncode is noodzakelijk om te beoordelen of een AI-systeem met een hoog risico overeenstemt met de voorschriften van afdeling 2 van hoofdstuk III, en

b)

de test- of auditprocedures en verificaties op basis van de door de aanbieder verstrekte gegevens en documentatie zijn uitgeput of ontoereikend gebleken.

De door de markttoezichtautoriteiten verkregen informatie of documentatie worden verwerkt overeenkomstig de in artikel 78 vastgelegde vertrouwelijkheidsverplichtingen.

Het AI-bureau is exclusief bevoegd voor het toezicht op en de handhaving van de verplichtingen uit hoofde van deze verordening met betrekking tot de volgende AI-systemen: De exclusieve bevoegdheid zoals bedoeld in de eerste alinea is van toepassing op de aanbieders van die systemen. Zij is alleen op de gebruiksverantwoordelijken van die systemen van toepassing wanneer zij ook de aanbieder zijn of deel uitmaken van dezelfde onderneming als de aanbieder.

a)

AI-systemen die gebaseerd zijn op AI-modellen voor algemene doeleinden wanneer het model en het systeem door dezelfde aanbieder zijn ontwikkeld, of door aanbieders die deel uitmaken van dezelfde onderneming als die aanbieder, met uitzondering van: i) AI-systemen die verband houden met producten die onder de in bijlage I vermelde harmonisatiewetgeving van de Unie vallen; ii) AI-systemen zoals bedoeld in bijlage III, punt 2; iii) AI-systemen die worden aangeboden door rechtshandhavingsinstanties, grensbeheerautoriteiten en financiële instellingen, voor zover die AI-systemen onder artikel 74, lid 6, vallen; en iv) AI-systemen zoals bedoeld in bijlage III, punt 8, wat betreft de rechtsbedeling;

b)

AI-systemen die een overeenkomstig Verordening (EU) 2022/2065 aangewezen zeer groot onlineplatform of zeer grote onlinezoekmachine vormen of daarin zijn geïntegreerd.

In afwijking van artikel 73 melden aanbieders van AI-systemen met een hoog risico die op grond van lid 1 van dit artikel onder de bevoegdheid van het AI-bureau vallen, elk ernstig incident aan het AI-bureau. Artikel 73, leden 2 tot en met 9, is van overeenkomstige toepassing. Het AI-bureau geeft de relevante informatie onverwijld door aan de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de aanbieder of zijn wettelijke vertegenwoordiger zich bevindt.

De autoriteiten die betrokken zijn bij de toepassing van deze verordening werken actief samen met het AI-bureau en bieden het AI-bureau de nodige bijstand voor de uitoefening van zijn bevoegdheden, met inbegrip van, in voorkomend geval, met betrekking tot inspecties of andere handhavingsmaatregelen die op het grondgebied van een lidstaat moeten worden uitgevoerd. Daartoe beschikken die autoriteiten over de bevoegdheden waarin wordt voorzien op grond van deze verordening en Verordening (EU) 2019/1020, en in voorkomend geval en beperkt tot wat nodig is om hun taken uit hoofde van dit lid te vervullen, overeenkomstig de toepasselijke nationale procedures.

Bij het nemen van onderzoeks- of handhavingsmaatregelen op het grondgebied van een lidstaat waarbij toegang tot de gegevens of het AI-systeem van een overheidsinstantie betrokken is, wordt het AI-bureau bijgestaan door de relevante markttoezichtautoriteit.

Alvorens een besluit te nemen dat tot gevolg zou hebben dat het op een nationale markt aanbieden of in gebruik stellen van het AI-systeem wordt verboden of beperkt, of een besluit om het AI-systeem uit de handel te nemen of terug te roepen van die markt, stelt het AI-bureau de voor die markt bevoegde markttoezichtautoriteit zonder onnodige vertraging in kennis van zijn voornemen om een dergelijk besluit te nemen. Het AI-bureau raadpleegt in voorkomend geval de bij de toepassing van deze verordening betrokken autoriteiten over alle aangelegenheden die verband houden met de toepassing en handhaving van deze verordening.

Het AI-bureau is bevoegd voor conformiteitsbeoordelingen en tests ten aanzien van in lid 1 van dit artikel bedoelde AI-systemen als die zijn ingedeeld als AI-systemen met een hoog risico en onderworpen zijn aan conformiteitsbeoordelingen door derden op grond van artikel 43, voordat dergelijke AI-systemen in de handel worden gebracht of in gebruik worden gesteld. Bij deze tests en beoordelingen wordt nagegaan of de systemen voldoen aan de desbetreffende eisen van deze verordening en overeenkomstig deze verordening in de Unie in de handel mogen worden gebracht of in gebruik worden gesteld. De Commissie vertrouwt de uitvoering van deze tests of beoordelingen toe aan overeenkomstig deze verordening aangewezen aangemelde instanties, in welk geval de aangemelde instantie namens de Commissie optreedt. Indien een aangemelde instantie waaraan de Commissie uit hoofde van dit lid taken heeft gedelegeerd, deze taken niet naar behoren uitvoert, kan de Commissie de delegatie met onmiddellijke ingang intrekken. De vergoedingen voor test- en beoordelingsactiviteiten worden opgelegd aan de aanbieder van een AI-systeem met een hoog risico die bij de Commissie een conformiteitsbeoordeling door een derde partij heeft aangevraagd. De aanbieder betaalt de kosten in verband met de diensten die de Commissie overeenkomstig dit artikel aan de aangemelde instanties toevertrouwt rechtstreeks aan de aangemelde instantie.

Indien de relevante markttoezichtautoriteiten voldoende reden hebben om van mening te zijn dat AI-systemen voor algemene doeleinden die door gebruiksverantwoordelijken rechtstreeks kunnen worden gebruikt voor ten minste één doel dat op grond van deze verordening naar hoog risico is ingedeeld, niet in overeenstemming zijn met de voorschriften van deze verordening, werken zij samen met het AI-bureau om nalevingsevaluaties te verrichten, en stellen zij de AI-board en andere markttoezichtautoriteiten daarvan in kennis.

Wanneer een markttoezichtautoriteit gegronde en voldoende redenen heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in lid 1 van dit artikel bedoeld AI-systeem inbreuk heeft gemaakt op deze verordening, kan zij het AI-bureau via het desbetreffende overeenkomstig artikel 70, lid 2, aangewezen centrale contactpunt verzoeken de zaak te beoordelen om de nodige toezichts- en handhavingsmaatregelen te nemen om een snelle naleving van deze verordening te waarborgen. Een dergelijk verzoek wordt terdege gemotiveerd en bevat ten minste het volgende: Het AI-bureau houdt zoveel mogelijk rekening met het verzoek en de markttoezichtautoriteit werkt actief samen met het AI-bureau en verleent het de nodige bijstand bij de uitoefening van zijn bevoegdheden overeenkomstig lid 1 bis. Het AI-bureau stelt het centrale contactpunt zonder onnodige vertraging en in elk geval uiterlijk vier maanden na ontvangst van het verzoek in kennis van zijn voornemen om zijn bevoegdheden overeenkomstig artikel 75 bis uit te oefenen of van de redenen waarom het zijn bevoegdheden niet uitoefent. Indien het AI-bureau besluit zijn bevoegdheden overeenkomstig artikel 75 bis uit te oefenen, stelt het dat centrale contactpunt periodiek in kennis van belangrijke ontwikkelingen in de procedure en de uitkomst van die procedure, zonder vertrouwelijke informatie openbaar te maken.

a)

de naam van de betrokken aanbieder of gebruiksverantwoordelijke;

b)

een beschrijving van de relevante feiten, de bepalingen van deze verordening waarop inbreuk zou zijn gemaakt en alle gegronde en voldoende redenen om een inbreuk te vermoeden, waaronder in voorkomend geval een beschrijving van de negatieve gevolgen van de vermeende inbreuk;

c)

de markttoezichtautoriteit die het verzoek indient.

Indien een markttoezichtautoriteit haar onderzoek naar het AI-systeem met een hoog risico niet kan afronden omdat zij geen toegang heeft tot bepaalde informatie met betrekking tot het AI-model voor algemene doeleinden, hoewel zij al het nodige heeft gedaan om die informatie te verkrijgen, kan zij een met redenen omkleed verzoek indienen bij het AI-bureau, waarmee de toegang tot die informatie wordt afgedwongen. In dat geval verstrekt het AI-bureau de verzoekende autoriteit onverwijld, en in ieder geval binnen dertig dagen, alle informatie die het relevant acht om vast te stellen of een AI-systeem met een hoog risico non-conform is. Markttoezichtautoriteiten waarborgen dat de door hen verkregen informatie overeenkomstig artikel 78 van deze verordening vertrouwelijk wordt behandeld. De procedure van hoofdstuk VI van Verordening (EU) 2019/1020 is van overeenkomstige toepassing.

Bij de uitvoering van zijn in artikel 75, lid 1, van deze verordening vastgestelde toezichts- en handhavingstaken beschikt het AI-bureau over alle bevoegdheden van een markttoezichtautoriteit die zijn bepaald in deze afdeling en in artikel 14, lid 4, en artikel 16, lid 3, van Verordening (EU) 2019/1020. Het AI-bureau is gemachtigd om alle kosten van zijn toezichts- en handhavingsactiviteiten met betrekking tot gevallen van niet-naleving, met inbegrip van de kosten voor personele en technische middelen, volledig terug te vorderen van de betrokken operator, overeenkomstig artikel 15 van Verordening (EU) 2019/1020. Artikel 17 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing.

Wanneer het AI-bureau redelijke gronden heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in artikel 75, lid 1, van deze verordening bedoeld AI-systeem deze verordening niet naleeft, kan het een besluit nemen om een onderzoek naar die niet-naleving te starten overeenkomstig artikel 14, lid 4, punt f), van Verordening (EU) 2019/1020. Wanneer het AI-bureau een dergelijk onderzoek start, stelt het de operator van het betrokken AI-systeem daarvan in kennis. Het AI-bureau kan de in lid 1 van dit artikel bedoelde bevoegdheden op eigen initiatief of naar aanleiding van een op grond van artikel 85 van deze verordening ontvangen klacht uitoefenen, zelfs voordat het een onderzoek op grond van artikel 14, lid 4, punt f), van Verordening (EU) 2019/1020 start. Wanneer een markttoezichtautoriteit redenen heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in artikel 75, lid 1, bedoeld AI-systeem deze verordening niet naleeft, kan zij het AI-bureau verzoeken de zaak te beoordelen.

Het AI-bureau kan de in artikel 14, lid 4, punten a), b) en c), van Verordening (EU) 2019/1020 en artikel 74, leden 12 en 13, van deze verordening genoemde bevoegdheden uitoefenen bij eenvoudig verzoek of bij besluit. Wanneer het AI-bureau om informatie verzoekt, vermeldt het de rechtsgrondslag en het doel van het verzoek, specificeert het welke informatie wordt verlangd en stelt het de termijn vast waarbinnen de informatie moet worden verstrekt. Indien het verzoek een eenvoudig verzoek is, geeft het AI-bureau daarnaast aan dat, hoewel er geen verplichting is om de gevraagde informatie te verstrekken, de informatie in het geval van een vrijwillig antwoord correct en niet misleidend moet zijn, en vermeldt het de mogelijke geldboeten waarin artikel 99, lid 5, voorziet voor het verstrekken van onjuiste of misleidende informatie. Indien het verzoek bij besluit wordt gedaan, vermeldt het AI-bureau bovendien de in artikel 99, lid 5, bepaalde geldboeten voor het verstrekken van onjuiste, onvolledige of misleidende informatie en wijst het op het recht om het besluit te laten toetsen door het Hof van Justitie van de Europese Unie. Het AI-bureau stuurt een kopie van het verzoek naar de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de operator of zijn wettelijke vertegenwoordiger zich bevindt.

Om de taken uit te voeren die hem krachtens deze afdeling zijn toegewezen, kan het AI-bureau alle nodige inspecties op afstand of ter plaatse uitvoeren op grond van de bevoegdheden van artikel 14, lid 4, punten d) en e), van Verordening (EU) 2019/1020 en artikel 74, lid 5, van deze verordening. Wanneer het een inspectie uitvoert, stelt het AI-bureau de betrokken aanbieder in kennis van het voorwerp en het doel van het onderzoek, de in artikel 99, lid 5, van deze verordening bedoelde toepasselijke boetes en het recht om het besluit te laten toetsen door het Hof van Justitie van de Europese Unie. Voordat het een inspectie uitvoert, stelt het AI-bureau de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de operator of zijn wettelijke vertegenwoordiger zich bevindt, daarvan in kennis. Tijdens een dergelijke inspectie zijn de functionarissen van het AI-bureau bevoegd om: Indien het AI-bureau van oordeel is dat een natuurlijk of rechtspersoon zich tegen een inspectie verzet of een inspectie belemmert, verleent de nationale bevoegde autoriteit van de betrokken lidstaat het de nodige bijstand om het in staat te stellen zijn inspectie ter plaatse uit te voeren, zo nodig door een beroep te doen op de politie of een gelijkwaardige handhavingsautoriteit. Indien voor een inspectie ter plaatse van lokalen, terreinen of eigendommen de toestemming van een rechterlijke instantie overeenkomstig het nationale recht vereist is, verzoekt het AI-bureau om die toestemming. Het AI-bureau kan die toestemming ook bij wijze van voorzorgsmaatregel vragen. Wanneer om een dergelijke toestemming wordt verzocht, gaat de nationale rechterlijke instantie onverwijld na of de voorgenomen dwangmaatregelen niet willekeurig zijn noch buitensporig in verhouding tot het voorwerp van het onderzoek of de inspectie en de documenten die het AI-bureau bij het besluit heeft gevoegd. Bij haar toetsing van de evenredigheid van dwangmaatregelen kan de nationale rechterlijke instantie het AI-bureau om nadere toelichting verzoeken, in het bijzonder over de redenen die het AI-bureau heeft om aan te nemen dat op deze verordening inbreuk is gemaakt, de ernst van de vermoedelijke inbreuk en, in voorkomend geval, de aard van de betrokkenheid van de aan de dwangmaatregelen onderworpen persoon. De nationale rechterlijke instantie mag niet de noodzakelijkheid van het onderzoek of de inspectie toetsen, noch de informatie uit het dossier van het AI-bureau opvragen. Overeenkomstig de Verdragen is de rechtmatigheid van het besluit van het AI-bureau alleen onderworpen aan toetsing door het Hof van Justitie van de Europese Unie.

a)

alle lokalen, terreinen of eigendommen van de betrokken operator die zich in de Unie bevinden, te betreden;

b)

de boeken, gegevens en ander voor de uitvoering van hun taken relevant materiaal te onderzoeken, ongeacht de informatiedrager;

c)

in eender welke vorm kopieën of uittreksels van boeken, gegevens en andere bescheiden te maken of te verkrijgen;

d)

alle personen die voorwerp van de inspectie zijn of hun vertegenwoordigers of personeelsleden te verzoeken om mondelinge of schriftelijke toelichting bij factoren of documenten met betrekking tot het onderwerp en het doel van de inspectie, en de antwoorden op te tekenen;

e)

lokalen en boeken of bescheiden van de onderneming te verzegelen voor de duur van, en voor zover nodig voor, de inspectie.

Op verzoek van het AI-bureau kan de bevoegde markttoezichtautoriteit van een lidstaat op haar eigen grondgebied namens en voor rekening van het AI-bureau onderzoeken, inspecties of andere onderzoeksmaatregelen uitvoeren om vast te stellen of er sprake is van een inbreuk op deze verordening. De functionarissen van de bevoegde autoriteiten van de lidstaten die met het verrichten van dergelijke onderzoeken, inspecties of onderzoeksmaatregelen zijn belast, alsmede de door hen gemachtigde of aangewezen functionarissen, oefenen hun bevoegdheden uit overeenkomstig hun nationale recht.

Naast de in lid 1 van dit artikel bepaalde bevoegdheden kan het AI-bureau bij de uitoefening van zijn in artikel 75, lid 1, bedoelde bevoegdheden:

a)

operatoren gelasten toegang te verlenen tot en uitleg te geven over hun AI-systemen;

b)

een operator een verplichting opleggen om alle gegevens en documenten te bewaren die nodig worden geacht om de uitvoering en naleving van de verplichtingen uit hoofde van deze verordening te beoordelen.

Om het bij te staan bij het monitoren van de doeltreffende uitvoering en naleving van de relevante bepalingen van deze verordening en om het bij de uitoefening van zijn bevoegdheden uit hoofde van artikel 75, lid 1, te voorzien van specifieke deskundigheid of kennis, kan het AI-bureau onafhankelijke externe deskundigen en auditors benoemen, alsook, met instemming van de betrokken autoriteit, deskundigen, onderzoeksteams en auditors van de bevoegde autoriteiten van de lidstaat. Informatie die als gevolg van dergelijke monitoringacties is verkregen, wordt gedeeld met de relevante bevoegde autoriteiten van de lidstaten.

De op grond van dit artikel verzamelde informatie wordt uitsluitend gebruikt voor de toepassing van deze verordening.

Indien de betrokken operator tijdens de procedure op grond van artikel 75 bis, lid 2, toezeggingen doet om de naleving van de relevante bepalingen van deze verordening te waarborgen, kan het AI-bureau deze toezeggingen bij besluit bindend maken voor de operator en verklaren dat er geen redenen zijn om verder op te treden. Het AI-bureau kan, op verzoek of op eigen initiatief, de procedure heropenen indien:

er zich een materiële wijziging heeft voorgedaan in de feiten waarop het besluit berust;

de operator in strijd met zijn toezeggingen handelt; of

het besluit berustte op door de betrokken operator verstrekte onvolledige, onjuiste of misleidende informatie.

Indien het AI-bureau van oordeel is dat de toezeggingen die door de betrokken operator zijn gedaan, niet toereikend zijn om de daadwerkelijke naleving van de relevante bepalingen van deze verordening te waarborgen, wijst het die toezeggingen bij het afsluiten van de procedure in een met redenen omkleed besluit af.

Indien het AI-bureau vaststelt dat een operator die binnen het toepassingsgebied van artikel 75, lid 1, valt, de desbetreffende bepalingen van deze verordening of de op grond van artikel 75 ter verbindend verklaarde toezeggingen niet naleeft, stelt het een besluit vast waarin die niet-naleving wordt vastgesteld.

Alvorens een besluit op grond van lid 1 vast te stellen, deelt het AI-bureau zijn voorlopige bevindingen mee aan de betrokken operator. In de voorlopige bevindingen licht het AI-bureau de maatregelen toe die het overweegt te nemen of die de betrokken operator volgens hem moet nemen om doeltreffend gevolg te geven aan de voorlopige bevindingen.

In het op grond van lid 1 van dit artikel vastgestelde besluit gelast het AI-bureau de betrokken operator in voorkomend geval de nodige maatregelen te nemen om ervoor te zorgen dat de relevante bepalingen van deze verordening binnen een daarin vermelde redelijke termijn worden nageleefd en om informatie te verstrekken over de maatregelen die die operator voornemens is te nemen om aan het besluit te voldoen. De betrokken operator verstrekt het AI-bureau een beschrijving van de maatregelen die hij heeft genomen om ervoor te zorgen dat het besluit bij de uitvoering van die maatregelen wordt nageleefd. Alvorens om maatregelen te verzoeken, kan het AI-bureau een gestructureerde dialoog aangaan met de operator van het AI-systeem in kwestie. Tijdens deze dialoog kan de operator toezeggingen voorstellen overeenkomstig artikel 75 ter.

Een op grond van lid 1 van dit artikel vastgesteld besluit kan vergezeld gaan van het opleggen van sancties overeenkomstig artikel 99, leden 3 tot en met 7, waarvan de bepalingen van overeenkomstige toepassing zijn op het AI-bureau bij de uitvoering van zijn in artikel 75, lid 1, bedoelde toezichts- en handhavingstaken. Met name is het volgende onderworpen aan administratieve geldboeten als bedoeld in artikel 99, lid 4: Voor de verstrekking van onjuiste, onvolledige of misleidende informatie aan het AI-bureau in antwoord op een verzoek, gelden administratieve geldboeten als bedoeld in artikel 99, lid 5.

a)

inbreuken op toepasselijke bepalingen van deze verordening, met inbegrip van die welke niet in artikel 99, lid 4, zijn vermeld;

b)

niet-naleving van besluiten of maatregelen die zijn vastgesteld op grond van de in artikel 14, lid 4, of artikel 16, lid 3, van Verordening (EU) 2019/1020 genoemde bevoegdheden, alsook van de in artikel 75 bis van deze verordening nader genoemde bevoegdheden;

c)

het nalaten een toezegging waaraan krachtens artikel 75 ter bij besluit een bindend karakter is verleend, na te komen.

Het AI-bureau kan een besluit vaststellen waarbij dwangsommen worden opgelegd om de operatoren die krachtens artikel 75, lid 1, onder zijn bevoegdheid vallen, te dwingen tot het volgende: Die dwangsommen zijn doeltreffend en evenredig en bedragen, in voorkomend geval, niet meer dan 5 % van het gemiddelde dagelijkse inkomen of de gemiddelde wereldwijde jaaromzet in het voorgaande boekjaar per dag, berekend vanaf de in het besluit vastgestelde datum.

a)

mee te werken aan een onderzoek;

b)

gevolg te geven aan een verzoek om informatie dat bij een uit hoofde van artikel 75 bis, lid 3, vastgesteld besluit is gelast;

c)

zich aan een bij een besluit op grond van artikel 75 bis, lid 4, gelaste inspectie ter plaatse te onderwerpen;

d)

correcte of volledige antwoorden of toelichtingen te verstrekken in het kader van een bij een besluit uit hoofde van artikel 75 bis, lid 4, gelaste inspectie;

e)

te voldoen aan corrigerende maatregelen die zijn gelast op grond van de in artikel 16 van Verordening (EU) 2019/1020 genoemde bevoegdheid;

f)

een toezegging waaraan op grond van artikel 75 ter bij besluit een bindend karakter is verleend, na te komen; of

g)

een besluit op grond van lid 1 van dit artikel na te leven.

Het Hof van Justitie van de Europese Unie heeft volledige rechtsmacht om besluiten van het AI-bureau tot oplegging van een geldboete of dwangsom op grond van dit artikel te toetsen. Het kan de opgelegde geldboete of dwangsom intrekken, verlagen of verhogen.

De bedragen die worden geïnd door het opleggen van geldboeten of dwangsommen op grond van dit artikel, dragen bij aan de algemene begroting van de Unie.

Voor de door dit artikel aan het AI-bureau verleende bevoegdheden geldt een verjaringstermijn van drie jaar. De verjaringstermijn gaat in op de dag waarop de inbreuk wordt begaan. Bij voortgezette of herhaalde inbreuken gaat de verjaringstermijn echter pas in op de dag waarop de inbreuk is beëindigd. De bevoegdheid van het AI-bureau om op grond van dit artikel genomen besluiten ten uitvoer te leggen, verjaart na drie jaar. De verjaringstermijn gaat in op de dag waarop het besluit niet meer kan worden aangevochten. In de in artikel 75 quinquies, lid 3, bedoelde uitvoeringshandeling worden de eerste en de tweede alinea van dit lid gespecificeerd, met inbegrip van de omstandigheden waarin de verjaringstermijnen worden gestuit.

Indien het AI-bureau vaststelt dat er geen redenen zijn om een besluit van niet-naleving vast te stellen, sluit het de procedure met een besluit af. Dat besluit is onmiddellijk van toepassing.

Artikel 18 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing op de operatoren die onder de bevoegdheid van het AI-bureau vallen overeenkomstig artikel 75, lid 1, van deze verordening, onverminderd specifiekere procedurele rechten waarin deze verordening voorziet.

De rechten van de verdediging, en het recht op inzage van het dossier, van operatoren die onder het toepassingsgebied van artikel 75, lid 1, vallen, worden in procedures ten volle geëerbiedigd. Met het oog op de mogelijke vaststelling van besluiten op basis van artikel 75 quater, lid 1, hebben die operatoren recht op inzage van het dossier van het AI-bureau onder de voorwaarden van een onderhandelde openbaarmaking, onder voorbehoud van het rechtmatige belang van de operator of andere betrokken persoon bij de bescherming van hun bedrijfsgeheimen. Bij onenigheid tussen de partijen is het AI-bureau bevoegd om besluiten te nemen tot vaststelling van dergelijke voorwaarden van openbaarmaking. Het recht op inzage van het dossier geldt niet voor vertrouwelijke inlichtingen en interne documenten van het AI-bureau, de AI-board, bevoegde markttoezichtautoriteiten of andere overheidsinstanties van de lidstaten. Het recht op inzage geldt met name niet voor correspondentie tussen het AI-bureau en die autoriteiten. Niets in dit lid belet het AI-bureau om voor het bewijs van een inbreuk noodzakelijke inlichtingen bekend te maken of te gebruiken.

De Commissie kan uitvoeringshandelingen vaststellen met betrekking tot de praktische regelingen voor inzage van het dossier en de onderhandelde openbaarmaking van informatie als bepaald in lid 2.

Het AI-bureau maakt de besluiten bekend die het op grond van de artikelen 75 ter en 75 quater neemt. In de bekendmaking worden de namen van de partijen en de hoofdpunten van het besluit, waaronder opgelegde sancties, vermeld. Bij de bekendmaking wordt rekening gehouden met de rechten en het rechtmatige belang van betrokken personen bij de bescherming van hun vertrouwelijke informatie.

De markttoezichtautoriteiten hebben de bevoegdheden om ervoor te zorgen dat tests onder reële omstandigheden in overeenstemming zijn met deze verordening. Wanneer het testen onder reële omstandigheden is gebaseerd op artikel 60 bis, wordt elke verwijzing naar een markttoezichtautoriteit in dit artikel opgevat als een verwijzing naar de nationale bevoegde autoriteit of de bevoegde autoriteit uit hoofde van de in bijlage I, afdeling B, opgenomen harmonisatiewetgeving van de Unie, en worden verwijzingen naar artikel 60 in voorkomend geval gelezen als verwijzingen naar artikel 60 bis.

Indien AI-systemen waarop toezicht wordt uitgeoefend binnen een AI-testomgeving voor regelgeving krachtens artikel 58, onder reële omstandigheden worden getest, controleren de markttoezichtautoriteiten of artikel 60 wordt nageleefd als onderdeel van hun toezichthoudende rol voor de AI-testomgeving voor regelgeving. Deze autoriteiten kunnen, in voorkomend geval, toestaan dat de aanbieder of potentiële aanbieder in afwijking van de voorwaarden van artikel 60, lid 4, punten f) en g), onder reële omstandigheden test.

Een markttoezichtautoriteit die door de aanbieder, de potentiële aanbieder of een derde van een ernstig incident op de hoogte is gebracht of andere redenen heeft om aan te nemen dat niet aan de in de artikelen 60 en 61 bepaalde voorwaarden wordt voldaan, kan op haar grondgebied een van de volgende besluiten nemen, naargelang van het geval:

a)

de tests onder reële omstandigheden opschorten of beëindigen;

b)

aanbieders of potentiële aanbieders en gebruiksverantwoordelijken of potentiële gebruiksverantwoordelijken voorschrijven dat zij een aspect van de test onder reële omstandigheden wijzigen.

Indien een markttoezichtautoriteit een besluit als bedoeld in lid 3 van dit artikel heeft genomen of een bezwaar in de zin van artikel 60, lid 4, punt b), heeft ingediend, worden in het besluit of het bezwaar vermeld wat de redenen daarvoor zijn en onder welke voorwaarden de aanbieder of potentiële aanbieder het besluit of het bezwaar kan aanvechten.

Indien, in voorkomend geval, een markttoezichtautoriteit een besluit als bedoeld in lid 3 heeft genomen, deelt zij de redenen daarvoor mee aan de markttoezichtautoriteiten van de andere lidstaten waar het AI-systeem overeenkomstig het testplan is getest.

Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens het Unierecht ter bescherming van de grondrechten, waaronder het recht op non-discriminatie, controleren of handhaven, zijn bevoegd om krachtens deze verordening opgestelde of bijgehouden informatie of documentatie in een toegankelijke taal en in een machineleesbaar formaat elektronisch op te vragen en in te zien bij de relevante markttoezichtautoriteit wanneer toegang tot die informatie of documentatie nodig is voor het doeltreffend uitoefenen van de bevoegdheden onder hun mandaat binnen de grenzen van hun rechtsgebied. Dit artikel doet geen afbreuk aan de competenties, taken, bevoegdheden en onafhankelijkheid van de relevante nationale overheidsinstanties of -organen in het kader van hun mandaten.

Onder de in dit artikel gespecificeerde voorwaarden verleent de markttoezichtautoriteit de relevante overheidsinstantie of het relevante overheidsorgaan als bedoeld in lid 1, toegang tot die informatie of documentatie, onder meer door, indien nodig, die informatie of documentatie onverwijld op te vragen bij de aanbieder of de gebruiksverantwoordelijke.

De markttoezichtautoriteiten en de in lid 1 bedoelde overheidsinstanties of -organen werken nauw samen en verlenen elkaar de wederzijdse bijstand die nodig is voor het uitoefenen van de bevoegdheden onder hun mandaat, teneinde te zorgen voor de coherente toepassing van deze verordening en het Unierecht gericht op de bescherming van de grondrechten en het stroomlijnen van de procedures, met eerbiediging van hun respectieve competenties, taken, bevoegdheden en onafhankelijkheid. Dit omvat met name de uitwisseling van informatie waar dit nodig is voor het effectieve toezicht op of de effectieve handhaving van deze verordening en de respectieve andere wetgeving van de Unie.

Uiterlijk op 2 november 2024 stelt elke lidstaat de in lid 1 bedoelde overheidsinstanties of -organen vast en maakt de lijst openbaar. De lidstaten stellen de Commissie en de andere lidstaten in kennis van de lijst en houden deze up-to-date.

Indien de in lid 1 bedoelde documentatie ontoereikend is om vast te stellen of sprake is geweest van een inbreuk op verplichtingen krachtens het Unierecht ter bescherming van grondrechten, kunnen de in lid 1 bedoelde overheidsinstanties of -organen een met redenen omkleed verzoek bij de markttoezichtautoriteit indienen om het AI-systeem met een hoog risico met technische middelen te mogen testen. De markttoezichtautoriteit organiseert de testprocedure binnen een redelijke termijn na het verzoek en met nauwe betrokkenheid van de verzoekende overheidsinstantie of het verzoekende overheidsorgaan.

Informatie of documentatie die op grond van dit artikel door de in lid 1 van dit artikel bedoelde overheidsinstanties of -organen wordt verkregen, wordt verwerkt overeenkomstig de in artikel 78 beschreven vertrouwelijkheidsverplichtingen.

De Commissie, de markttoezichtautoriteiten en de aangemelde instanties, en alle andere natuurlijke of rechtspersonen die bij de toepassing van deze verordening betrokken zijn, eerbiedigen overeenkomstig het Unierecht of het nationale recht de vertrouwelijke aard van informatie en gegevens die zij hebben verkregen tijdens het uitvoeren van hun taken en activiteiten, met name ter bescherming van:

a)

de intellectuele-eigendomsrechten, en vertrouwelijke bedrijfsinformatie of bedrijfsgeheimen van een natuurlijke of rechtspersoon, waaronder de broncode, uitgezonderd de gevallen bedoeld in artikel 5 van Richtlijn (EU) 2016/943 van het Europees Parlement en de Raad ( 2 );

b)

de doeltreffende uitvoering van deze verordening, met name in verband met inspecties, onderzoeken of audits;

c)

publieke en nationale veiligheidsbelangen;

d)

het voeren van strafrechtelijke of administratieve procedures;

e)

informatie die op grond van het Unierecht of het nationale recht gerubriceerd is.

De autoriteiten die op grond van lid 1 bij de toepassing van deze verordening betrokken zijn, verzoeken alleen om gegevens die strikt noodzakelijk zijn ter beoordeling van het risico van AI-systemen en ter uitoefening van hun bevoegdheden in overeenstemming met deze verordening en met Verordening (EU) 2019/1020. Zij treffen adequate en doeltreffende cyberbeveiligingsmaatregelen ter bescherming van de veiligheid en de vertrouwelijkheid van de verkregen informatie en gegevens en wissen de verzamelde gegevens zodra die niet langer nodig zijn voor het doel waarvoor zij zijn verkregen, overeenkomstig het toepasselijke Unierecht of nationale recht.

Onverminderd de leden 1 en 2, mag op vertrouwelijke basis tussen de nationale bevoegde autoriteiten of tussen nationale bevoegde autoriteiten en de Commissie uitgewisselde informatie niet openbaar worden gemaakt zonder voorafgaande raadpleging van de nationale bevoegde autoriteit waarvan de informatie afkomstig is en de gebruiksverantwoordelijke wanneer in punt 1, 6 of 7 van bijlage III vermelde AI-systemen met een hoog risico worden gebruikt door rechtshandhavingsinstanties en grenstoezichts-, immigratie- of asielautoriteiten, wanneer die openbaarmaking openbare en nationale veiligheidsbelangen in gevaar zou brengen. Deze informatie-uitwisseling behelst geen gevoelige operationele gegevens in verband met de activiteiten van rechtshandhavings-, grenstoezichts-, immigratie- of asielautoriteiten. Indien de rechtshandhavingsinstanties of immigratie- of asielautoriteiten aanbieders van in punt 1, 6 of 7 van bijlage III bedoelde AI-systemen met een hoog risico zijn, blijft de in bijlage IV vermelde technische documentatie in de gebouwen van die autoriteiten. Die autoriteiten waarborgen dat de in artikel 74, leden 8 en 9, bedoelde markttoezichtautoriteiten zo nodig op verzoek onmiddellijk toegang tot de documentatie kunnen krijgen of een kopie ervan kunnen ontvangen. Alleen personeel van de markttoezichtautoriteit met een passende veiligheidsmachtiging mag die documentatie of kopieën ervan inzien.

De leden 1, 2 en 3 laten de rechten en verplichtingen van de Commissie, de lidstaten en hun bevoegde autoriteiten, alsmede die van de aangemelde instanties, met betrekking tot de uitwisseling van informatie en de verspreiding van waarschuwingen, ook in het kader van grensoverschrijdende samenwerking, evenals de verplichtingen van de betrokken partijen om in het kader van het strafrecht van de lidstaten informatie te verstrekken, onverlet.

De Commissie en de lidstaten kunnen zo nodig en met inachtneming van de relevante bepalingen van internationale overeenkomsten en handelsakkoorden vertrouwelijke informatie uitwisselen met regelgevingsinstanties van derde landen waarmee zij bilaterale of multilaterale vertrouwelijkheidsovereenkomsten hebben gesloten die een passend niveau van vertrouwelijkheid waarborgen.

Onder AI-systemen die een risico inhouden, worden verstaan „producten die een risico vormen”, zoals gedefinieerd in artikel 3, punt 19, van Verordening (EU) 2019/1020, voor zover die een risico vormen voor de gezondheid, de veiligheid of de grondrechten van personen.

Indien de markttoezichtautoriteit van een lidstaat voldoende reden heeft om van mening te zijn dat een AI-systeem een risico vormt, zoals bedoeld in lid 1 van dit artikel, verricht zij een evaluatie van het betrokken AI-systeem ten aanzien van de overeenstemming ervan met alle eisen en verplichtingen van deze verordening. Er wordt bijzondere aandacht besteed aan AI-systemen die een risico vormen voor kwetsbare groepen. Indien er risico’s voor de grondrechten worden vastgesteld, stelt de markttoezichtautoriteit tevens de in artikel 77, lid 1, bedoelde relevante nationale overheidsinstanties of -organen in kennis en verleent zij hun haar volledige medewerking. De relevante gebruiksverantwoordelijken werken voor zover noodzakelijk samen met de markttoezichtautoriteit en met de andere in artikel 77, lid 1, bedoelde nationale overheidsinstanties of -organen. Indien de markttoezichtautoriteit, in voorkomend geval in samenwerking met de in artikel 77, lid 1, bedoelde nationale overheidsinstantie, bij deze evaluatie vaststelt dat het AI-systeem niet aan de eisen en verplichtingen van deze verordening voldoet, gelast zij de betrokken operator zonder onnodige vertraging passende corrigerende maatregelen te nemen om het AI-systeem binnen een termijn die door de markttoezichtautoriteit kan worden vastgesteld, en in elk geval binnen 15 werkdagen of binnen de termijn die is vastgelegd in de van toepassing zijnde relevante harmonisatiewetgeving van de Unie, indien die korter is, conform te maken, uit de handel te nemen of terug te roepen. De markttoezichtautoriteit stelt de relevante aangemelde instantie daarvan in kennis. Op de in de tweede alinea van dit lid genoemde maatregelen is artikel 18 van Verordening (EU) 2019/1020 van toepassing.

Indien de markttoezichtautoriteit van mening is dat de non-conformiteit niet beperkt blijft tot haar nationale grondgebied, brengt zij de Commissie en de andere lidstaten zonder onnodige vertraging op de hoogte van de resultaten van de evaluatie en van de maatregelen die zij de operator heeft opgelegd.

De operators zorgen ervoor dat alle betrokken AI-systemen die zij op de Uniemarkt hebben aangeboden aan alle passende corrigerende maatregelen worden onderworpen.

Indien de operator van een AI-systeem niet binnen de in lid 2 bedoelde termijn doeltreffende corrigerende actie onderneemt, neemt de markttoezichtautoriteit alle passende voorlopige maatregelen om het op haar nationale markt aanbieden of in gebruik stellen van het AI-systeem te verbieden of te beperken, het product of het op zichzelf staande AI-systeem in de betrokken lidstaat uit de handel te nemen of terug te roepen. Die autoriteit stelt de Commissie en de andere lidstaten zonder onnodige vertraging van deze maatregelen in kennis.

De in lid 5 bedoelde kennisgeving omvat alle bekende bijzonderheden, met name de informatie die nodig is om het non-conforme AI-systeem te identificeren en om de oorsprong van het AI-systeem en de toeleveringsketen, de aard van de beweerde non-conformiteit en van het risico, en de aard en de duur van de nationale maatregelen vast te stellen, evenals de argumenten die worden aangevoerd door de betrokken operator. De markttoezichtautoriteiten vermelden met name of de non-conformiteit een of meer van de volgende redenen heeft:

a)

niet-naleving van het verbod op de in artikel 5 bedoelde AI-praktijken;

b)

het AI-systeem met een hoog risico voldoet niet aan vereisten van hoofdstuk III, afdeling 2;

c)

tekortkomingen in de in de artikelen 40 en 41 bedoelde geharmoniseerde normen of gemeenschappelijke specificaties die een vermoeden van conformiteit rechtvaardigen;

d)

niet-naleving van artikel 50.

De andere markttoezichtautoriteiten dan de markttoezicht-autoriteit van de lidstaat die de procedure heeft geïnitieerd, brengen de Commissie en de andere lidstaten zonder onnodige vertraging op de hoogte van door hen genomen maatregelen en van aanvullende informatie over de non-conformiteit van het AI-systeem waarover zij beschikken, en van hun bezwaren indien zij het niet eens zijn met de aangemelde nationale maatregel.

Indien er binnen drie maanden na ontvangst van de in lid 5 van dit artikel bedoelde kennisgeving door een markttoezichtautoriteit van een lidstaat of door de Commissie geen bezwaar tegen een voorlopige maatregel van een markttoezichtautoriteit van een andere lidstaat is ingediend, wordt die maatregel geacht gerechtvaardigd te zijn. Dit geldt onverminderd de procedurele rechten van de betrokken operator overeenkomstig artikel 18 van Verordening (EU) 2019/1020. De in dit lid bedoelde termijn van drie maanden wordt verkort tot dertig dagen in geval van niet-naleving van het verbod op de in artikel 5 van deze verordening bedoelde AI-praktijken.

De markttoezichtautoriteiten zorgen ervoor dat ten aanzien van het betrokken product of AI-systeem zonder onnodige vertraging de passende beperkende maatregelen worden genomen, zoals het uit de handel nemen van het product of het AI-systeem op hun markt.

Indien een markttoezichtautoriteit voldoende reden heeft om van mening te zijn dat een AI-systeem dat door de aanbieder is ingedeeld als een AI-systeem dat geen hoog risico met zich meebrengt op grond van artikel 6, lid 3, wél een hoog risico vormt, toetst zij het betrokken AI-systeem aan de classificatie ervan als AI-systeem met een hoog risico op grond van de voorwaarden van artikel 6, lid 3, en de richtsnoeren van de Commissie.

Indien de markttoezichtautoriteit bij die toetsing vaststelt dat het betrokken AI-systeem een hoog risico vormt, eist zij zonder onnodige vertraging van de betrokken aanbieder dat deze alle nodige maatregelen neemt om het AI-systeem in overeenstemming te brengen met de vereisten en verplichtingen van deze verordening, en binnen een termijn die de markttoezichtautoriteit kan voorschrijven passende corrigerende maatregelen neemt.

Indien de markttoezichtautoriteit van mening is dat de het gebruik van het AI-systeem niet beperkt blijft tot haar nationale grondgebied, brengt zij de Commissie en de andere lidstaten zonder onnodige vertraging op de hoogte van de resultaten van de toetsing en van de maatregelen die zij de aanbieder heeft opgelegd.

De aanbieder zorgt ervoor dat alle nodige maatregelen worden genomen om het AI-systeem in overeenstemming te brengen met de vereisten en verplichtingen van deze verordening. Indien de aanbieder van een betrokken AI-systeem dat AI-systeem niet binnen de in lid 2 van dit artikel bedoelde termijn in overeenstemming brengt met die vereisten en verplichtingen, worden aan de aanbieder overeenkomstig artikel 99 geldboeten opgelegd.

De aanbieder zorgt ervoor dat alle betrokken AI-systemen die zij op de Uniemarkt hebben aangeboden aan alle passende corrigerende maatregelen worden onderworpen.

Indien de aanbieder van het betrokken AI-systeem niet binnen de in lid 2 van dit artikel bedoelde termijn adequate corrigerende maatregelen neemt, is artikel 79, leden 5 tot en met 9, van toepassing.

Indien de markttoezichtautoriteit bij de toetsing op grond van lid 1 van dit artikel vaststelt dat het AI-systeem door de aanbieder ten onrechte als geen hoog risico vormend systeem is ingedeeld om de toepassing van de vereisten van hoofdstuk III, afdeling 2, te omzeilen, worden aan de aanbieder overeenkomstig artikel 99 geldboeten opgelegd.

Bij de uitoefening van hun bevoegdheid om op de toepassing van dit artikel toe te zien, en overeenkomstig artikel 11 van Verordening (EU) 2019/1020, kunnen markttoezichtautoriteiten passende controles verrichten waarbij zij met name informatie die is opgeslagen in de in artikel 71 van deze verordening bedoelde EU-databank in aanmerking nemen.

Indien de markttoezichtautoriteit van een lidstaat binnen drie maanden na ontvangst van de in artikel 79, lid 5, bedoelde kennisgeving, of binnen dertig dagen in geval van niet-naleving van het verbod op de in artikel 5 bedoelde AI-praktijken, bezwaar maakt tegen een door een andere markttoezichtautoriteit genomen maatregel, of indien de Commissie de maatregel in strijd acht met het Unierecht, treedt de Commissie zonder onnodige vertraging in overleg met de markttoezichtautoriteit van de betrokken lidstaat en de operator(s), en evalueert zij de nationale maatregel. Op grond van de resultaten van die evaluatie besluit de Commissie binnen zes maanden, of binnen zestig dagen in geval van niet-naleving van het verbod op de in artikel 5 bedoelde AI-praktijken, met ingang van de in artikel 79, lid 5, bedoelde kennisgeving of de nationale maatregel gerechtvaardigd is, en deelt zij haar besluit aan de markttoezichtautoriteit van de betrokken lidstaat mee. De Commissie stelt ook alle andere markttoezichtautoriteiten van haar besluit in kennis.

Indien de Commissie de maatregel van de betrokken lidstaat gerechtvaardigd acht, zorgen alle lidstaten ervoor dat zij passende beperkende maatregelen ten aanzien van het betrokken AI-systeem nemen, zoals het zonder onnodige vertraging uit de handel nemen van het AI-systeem op hun markt, en stellen zij de Commissie daarvan in kennis. Indien de Commissie de nationale maatregel ongerechtvaardigd acht, trekt de betrokken lidstaat de maatregel in en stelt hij de Commissie daarvan in kennis.

Indien de nationale maatregel gerechtvaardigd wordt geacht en de non-conformiteit van het AI-systeem wordt toegeschreven aan tekortkomingen in de in de artikelen 40 en 41 van deze verordening bedoelde geharmoniseerde normen of gemeenschappelijke specificaties, past de Commissie de procedure van artikel 11 van Verordening (EU) nr. 1025/2012 toe.

Indien de markttoezichtautoriteit van een lidstaat na uitvoering van een evaluatie overeenkomstig artikel 79 en na raadpleging van de in artikel 77, lid 1, bedoelde relevante nationale overheidsinstantie vaststelt dat een AI-systeem met een hoog risico dat weliswaar voldoet aan deze verordening, toch een risico inhoudt voor de gezondheid of veiligheid van personen, voor de grondrechten of voor andere aspecten van de bescherming van algemene belangen, schrijft zij de betrokken operator voor dat deze binnen een termijn die zij kan vaststellen, alle passende maatregelen neemt om er zonder onnodige vertraging voor te zorgen dat het betrokken AI-systeem dat risico niet meer inhoudt wanneer het in de handel wordt gebracht of in gebruik wordt gesteld.

De aanbieder of andere relevante operator zorgt ervoor dat er binnen de in lid 1 bedoelde door de markttoezichtautoriteit van de lidstaat vastgestelde termijn corrigerende maatregelen worden genomen ten aanzien van alle betrokken AI-systemen die deze op de Uniemarkt heeft aangeboden.

De lidstaten brengen de Commissie en de andere lidstaten onmiddellijk op de hoogte van een vaststelling op grond van lid 1. Die informatie omvat alle bekende bijzonderheden, met name de gegevens die nodig zijn om het betrokken AI-systeem te identificeren en om de oorsprong en de toeleveringsketen van het AI-systeem, de aard van het betrokken risico en de aard en de duur van de nationale maatregelen vast te stellen.

De Commissie treedt zonder onnodige vertraging in overleg met de betrokken lidstaten en de betrokken operators en evalueert de genomen nationale maatregelen. Aan de hand van die evaluatie besluit de Commissie of de maatregel gerechtvaardigd is, en stelt zij zo nodig andere passende maatregelen voor.

De Commissie deelt haar besluit onmiddellijk aan de betrokken lidstaat en de betrokken operators mee. Zij licht ook de andere lidstaten in.

Indien de markttoezichtautoriteit van een lidstaat een van de onderstaande feiten vaststelt, schrijft zij de betrokken aanbieder voor dat deze binnen een door haar vast te stellen termijn een einde maakt aan deze non-conformiteit:

a)

de CE-markering is in strijd met artikel 48 aangebracht;

b)

er is geen CE-markering aangebracht;

c)

er is geen in artikel 47 bedoelde EU-conformiteitsverklaring opgesteld;

d)

de in artikel 47 bedoelde EU-conformiteitsverklaring is niet correct opgesteld;

e)

er heeft geen registratie in de in artikel 71 bedoelde EU-databank plaatsgevonden;

f)

indien van toepassing, er is geen gemachtigde aangewezen;

g)

er is geen technische documentatie beschikbaar.

Indien de in lid 1 bedoelde non-conformiteit voortduurt, neemt de markttoezichtautoriteit van de betrokken lidstaat passende en evenredige maatregelen om het op de markt aanbieden van het AI-systeem met een hoog risico te beperken of te verbieden, of het AI-systeem onverwijld terug te roepen of uit de handel te nemen.

De Commissie wijst een of meer ondersteunende AI-teststructuren van de Unie aan om op het gebied van AI de in artikel 21, lid 6, van Verordening (EU) 2019/1020 vermelde taken uit te voeren.

Onverminderd de in lid 1 bedoelde taken, verstrekken de ondersteunende AI-teststructuren van de Unie ook onafhankelijk technisch of wetenschappelijk advies op verzoek van de AI-board, de Commissie of markttoezichtautoriteiten.

Onverminderd andere administratieve of gerechtelijke rechtsmiddelen kan elke natuurlijke of rechtspersoon die redenen heeft om van mening te zijn dat er inbreuk is gepleegd op de bepalingen van deze verordening, klachten indienen bij de relevante markttoezichtautoriteit.

Overeenkomstig Verordening (EU) 2019/1020 worden dergelijke klachten in aanmerking genomen ter uitvoering van markttoezichtactiviteiten en worden zij behandeld in overeenstemming met de specifieke procedures die de markttoezichtautoriteiten daartoe hebben vastgesteld.

Elke getroffen persoon op wie een besluit van toepassing is dat door de gebruiksverantwoordelijke wordt genomen op basis van de output van een in bijlage III vermeld AI-systeem met een hoog risico, met uitzondering van systemen die in punt 2 van die bijlage zijn vermeld, en dat rechtsgevolgen heeft voor die persoon, of op deze op vergelijkbare wijze aanzienlijke invloed heeft die hij of zij als nadelige gevolgen voor zijn of haar gezondheid, veiligheid of grondrechten beschouwt, heeft het recht om van de gebruiksverantwoordelijke duidelijke, inhoudelijke uitleg te verkrijgen bij de rol van het AI-systeem in de besluitvormingsprocedure en de voornaamste elementen van het genomen besluit.

Lid 1 is niet van toepassing op het gebruik van AI-systemen waarvoor uitzonderingen op of beperkingen van de verplichting krachtens dat lid voortvloeien uit het Unierecht of het nationale recht in naleving van het Unierecht.

Dit artikel is enkel van toepassing voor zover het Unierecht niet anderszins in het in lid 1 bedoelde recht voorziet.

Richtlijn (EU) 2019/1937 is van toepassing op het melden van inbreuken op deze verordening en op de bescherming van personen die dergelijke inbreuken melden.

De Commissie heeft exclusieve bevoegdheden voor toezicht op en handhaving van hoofdstuk V, rekening houdend met de procedurele waarborgen krachtens artikel 94. De Commissie belast het AI-bureau met de uitvoering van deze taken, onverminderd de organisatiebevoegdheden van de Commissie en de bevoegdheidsverdeling tussen de lidstaten en de Unie op grond van de Verdragen.

Onverminderd artikel 75, lid 3, kunnen markttoezichtautoriteiten de Commissie verzoeken de in deze afdeling vastgestelde bevoegdheden uit te oefenen indien dat noodzakelijk en evenredig is om te helpen bij de uitvoering van hun taken krachtens deze verordening.

Voor de uitvoering van de taken die hem uit hoofde van deze afdeling zijn toegewezen, kan het AI-bureau de nodige maatregelen nemen de daadwerkelijke uitvoering en naleving van deze verordening, inclusief hun inachtneming van goedgekeurde praktijkcodes, door aanbieders van AI-modellen voor algemene doeleinden te monitoren.

Aanbieders verder in de AI-waardeketen hebben het recht een klacht in te dienen wegens inbreuk op deze verordening. Klachten moeten terdege worden gemotiveerd en moeten ten minste het volgende vermelden of bevatten:

a)

het contactpunt van de aanbieder van het betrokken AI-model voor algemene doeleinden;

b)

een beschrijving van de relevante feiten, de desbetreffende bepalingen van deze verordening en de reden waarom de aanbieder verder in de AI-waardeketen van mening is dat de aanbieder van het betrokken AI-model voor algemene doeleinden inbreuk op deze verordening heeft gemaakt;

c)

alle overige informatie die de aanbieder verder in de AI-waardeketen die het verzoek heeft ingediend, relevant acht, in voorkomend geval ook op eigen initiatief verzamelde informatie.

Het wetenschappelijk panel kan het AI-bureau een gekwalificeerde waarschuwing geven indien het redenen heeft om te vermoeden dat:

a)

een AI-model voor algemene doeleinden een concreet aanwijsbaar risico op Unieniveau vormt, of

b)

een AI-model voor algemene doeleinden aan de in artikel 51 bedoelde voorwaarden beantwoordt.

Naar aanleiding van een dergelijke gekwalificeerde waarschuwing kan de Commissie via het AI-Bureau, na de AI-board in kennis gesteld te hebben, de in deze afdeling vastgelegde bevoegdheden uitoefenen om de aangelegenheid te beoordelen. Het AI-bureau stelt de AI-board in kennis van elke maatregel overeenkomstig de artikelen 91 tot en met 94.

Gekwalificeerde waarschuwingen moeten terdege worden gemotiveerd en ten minste het volgende vermelden of bevatten:

a)

het contactpunt van de aanbieder van het betrokken AI-model voor algemene doeleinden dat een systeemrisico vormt;

b)

een beschrijving van de relevante feiten en de redenen voor de waarschuwing door het wetenschappelijk panel;

c)

alle overige informatie die het wetenschappelijk panel relevant acht, in voorkomend geval ook op eigen initiatief verzamelde informatie.

De Commissie kan de aanbieder van het betrokken AI-model voor algemene doeleinden verzoeken de door de aanbieder overeenkomstig de artikelen 53 en 55 opgestelde documentatie of eventuele aanvullende informatie te verstrekken die nodig is om te beoordelen of hij deze verordening naleeft.

Alvorens het verzoek om informatie te verzenden, kan het AI-bureau een gestructureerde dialoog met de aanbieder van het AI-model voor algemene doeleinden aangaan.

Op een terdege gemotiveerd verzoek van het wetenschappelijk panel kan de Commissie een verzoek om informatie tot een aanbieder van een AI-model voor algemene doeleinden richten, indien de toegang tot informatie noodzakelijk en evenredig is voor de uitvoering van de taken van het wetenschappelijk panel op grond van artikel 68, lid 2.

Het verzoek om informatie vermeldt de rechtsgrondslag en het doel van het verzoek, om wat voor informatie wordt verzocht, de termijn waarbinnen de informatie moet worden verstrekt, en de in artikel 101 bepaalde geldboeten voor het verstrekken van onjuiste, onvolledige of misleidende informatie.

De aanbieders van het betrokken AI-model voor algemene doeleinden of hun vertegenwoordiger verstrekken de gevraagde informatie. In het geval van rechtspersonen, bedrijven of firma’s, of indien de aanbieder geen rechtspersoonlijkheid heeft, verstrekken de personen die krachtens de wet of hun statuten gemachtigd zijn om hen te vertegenwoordigen, de gevraagde informatie namens de aanbieder van het betrokken AI-model voor algemene doeleinden. De informatie kan door naar behoren gemachtigde advocaten namens hun cliënten worden verstrekt. De cliënten blijven niettemin volledig verantwoordelijk indien de verstrekte informatie onvolledig, onjuist of misleidend is.

Het AI-bureau kan na raadpleging van de AI-board evaluaties van het betrokken AI-model voor algemene doeleinden verrichten teneinde:

a)

te beoordelen of de aanbieder voldoet aan de verplichtingen van deze verordening indien de op grond van artikel 91 verzamelde informatie ontoereikend is, of

b)

onderzoek te doen naar systeemrisico’s op Unieniveau van AI-modellen voor algemene doeleinden met systeemrisico’s, met name naar aanleiding van een gekwalificeerde melding van het wetenschappelijk panel overeenkomstig artikel 90, lid 1, punt a).

De Commissie kan besluiten om, onder meer uit het krachtens artikel 68 opgericht wetenschappelijk panel, onafhankelijke deskundigen aan te wijzen om namens haar evaluaties te verrichten. Voor deze taak aangewezen onafhankelijke deskundigen moeten voldoen aan de criteria van artikel 68, lid 2.

Voor de toepassing van lid 1 kan de Commissie verzoeken om toegang tot het betrokken AI-model voor algemene doeleinden via API’s of andere passende technische middelen en instrumenten, waaronder de broncode.

Het verzoek om informatie vermeldt de rechtsgrondslag en het doel en de redenen van het verzoek, de termijn waarbinnen de toegang moet worden verleend, en de in artikel 101 bepaalde geldboeten voor het niet bieden van toegang.

De aanbieders van AI-modellen voor algemene doeleinden of hun vertegenwoordiger verstrekken de gevraagde informatie. In het geval van rechtspersonen, bedrijven of firma’s of indien de aanbieder geen rechtspersoonlijkheid heeft, verlenen de personen die krachtens de wet of hun statuten gemachtigd zijn om hen te vertegenwoordigen, de gevraagde toegang namens de aanbieder van het betrokken AI-model voor algemene doeleinden.

De Commissie stelt uitvoeringshandelingen vast met de gedetailleerde regelingen en voorwaarden voor de evaluaties, met inbegrip van de gedetailleerde regelingen voor het betrekken van onafhankelijke deskundigen, en de selectieprocedure daarvoor. Die uitvoeringshandelingen worden volgens de in artikel 98, lid 2, bedoelde onderzoeksprocedure vastgesteld.

Alvorens om toegang tot het betrokken AI-model voor algemene doeleinden te verzoeken, kan het AI-bureau een gestructureerde dialoog met de aanbieder van het AI-model voor algemene doeleinden aangaan om meer informatie te verzamelen over de interne tests van het model, de interne waarborgen ter voorkoming van systeemrisico’s en andere interne procedures en maatregelen die de aanbieder heeft genomen om dergelijke risico’s te beperken.

Indien nodig en passend kan de Commissie aanbieders erom verzoeken:

a)

passende maatregelen te nemen om te voldoen aan de verplichtingen van de artikelen 53 en 54;

b)

risicobeperkende maatregelen te nemen indien de overeenkomstig artikel 92 verrichte evaluatie aanleiding heeft gegeven tot ernstige en concrete aanwijzingen voor een systeemrisico op Unieniveau;

c)

het op de markt aanbieden van het model te beperken, dan wel het uit de handel te nemen of terug te roepen.

Alvorens om een maatregel te verzoeken kan het AI-bureau een gestructureerde dialoog met de aanbieder van het AI-model voor algemene doeleinden aangaan.

Indien de aanbieder van het AI-model voor algemene doeleinden dat een systeemrisico vormt, tijdens de in lid 2 bedoelde gestructureerde dialoog toezeggingen doet om risicobeperkende maatregelen uit te voeren om een systeemrisico op Unieniveau aan te pakken, kan de Commissie die toezeggingen bij besluit bindend maken en verklaren dat er geen verdere gronden voor actie zijn.

Artikel 18 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing op de aanbieders van het AI-model voor algemene doeleinden, onverminderd specifiekere procedurele rechten waarin deze verordening voorziet.