Heeft uw bedrijf een private LLM nodig, of volstaat een zakelijke versie van ChatGPT? Het korte antwoord: zodra er klantgegevens in de tool gaan, kiest u een van drie vormen van private LLM. Voor een brainstorm zonder klantdata volstaat publieke AI. De lichtste vorm is een zakelijke dienst als ChatGPT Enterprise, de zwaarste een model op uw eigen server. Een private LLM is een taalmodel waarbij uw prompts en data binnen het bedrijf, de EU of een andere vooraf gekozen grens blijven.
Voor sector-specifieke verdieping: AI-beleid notaris en Wna art. 22, AI in de advocatuur met NOvA-aanbevelingen, ChatGPT in de zorg en het medisch beroepsgeheim en ChatGPT en de VGBA voor accountants.
Waarom een private LLM überhaupt
Publieke ChatGPT (Free of Plus) valt voor kantoren met beroepsgeheim, klantcontracten of bedrijfsgeheime data af. Drie risico's stapelen op elkaar.
Modeltraining op uw inputStandaard mogen OpenAI, Anthropic en Google uw prompts gebruiken voor het trainen van toekomstige modellen. Bedrijfsgegevens lekken zo onomkeerbaar het model in. Eenmaal getraind: niet meer terug te halen.
Hosting buiten de EUChatGPT, Claude en Gemini draaien primair op Amerikaanse cloud-infrastructuur. Onder de US Cloud Act (2018) kunnen Amerikaanse autoriteiten een Amerikaanse aanbieder dwingen data af te geven, ook als die fysiek in Europa staat. De AVG erkent zo'n buitenlands bevel alleen als het op een verdrag berust (artikel 48 AVG). Doorgifte naar de VS zelf mag sinds juli 2023 naar bedrijven die onder het EU-VS-kader voor gegevensbescherming (Data Privacy Framework) zijn gecertificeerd. Dat kader ligt nog bij het Hof van Justitie; de twee voorgangers sneuvelden daar, de laatste met het Schrems II-arrest van juli 2020.
Geen verwerkersovereenkomstLaat u een aanbieder persoonsgegevens voor u verwerken, dan hoort daar een schriftelijke verwerkersovereenkomst onder, elektronisch mag ook (artikel 28, lid 3 en lid 9, AVG). Een consumentenaccount heeft die niet: daar bepaalt de aanbieder zelf wat hij met uw invoer doet. Publieke ChatGPT levert geen DPA voor consument-accounts.
Voor een eerste brainstorm zonder klantdata kan publieke AI prima. Zodra er een dossier bij komt, houdt dat op.
Drie vormen van private LLM
Het label 'privé' dekt drie technisch verschillende oplossingen. Welke u kiest hangt af van budget, IT-volwassenheid en het niveau van garanties dat u nodig heeft. Publieke AI geldt hierna als niveau 1, zakelijke AI met verwerkersovereenkomst als niveau 2 en een Europese aanbieder of een eigen server als niveau 3.
Zakelijke AI met EU Data Boundary
Vanaf circa 18 euro per gebruiker per maand, bovenop uw Microsoft 365-licentie (prijspeil september 2026)ChatGPT Enterprise of Microsoft 365 Copilot. Een publieke dienst met zakelijke instellingen: modeltraining uit, verwerkersovereenkomst inbegrepen, opslag binnen de EU. Bij ChatGPT Enterprise kiest u zelf voor Europese opslag; bij Copilot moet de beheerder flex routing en de Anthropic-modellen uitgeschakeld houden, anders kan verwerking buiten de EU plaatsvinden. Claude for Work heeft een verwerkersovereenkomst, maar slaat gegevens op in de VS. Pragmatisch en snel te implementeren.
Europese private LLM-aanbieder
Vanaf circa 25 dollar per gebruiker per maand; Enterprise op aanvraagMistral (Frankrijk) met Vibe, voorheen Le Chat, of PhariaAI van Aleph Alpha (Duitsland). Gericht op gereguleerde sectoren en standaard gehost in de EU. Geheel zonder buiten-Europese schakels is het niet: Mistral schakelt ook subverwerkers buiten de EU in. Aleph Alpha gaat op in het Canadese Cohere (fusie getekend in september 2026, goedkeuring loopt). Vraag de lijst met subverwerkers op voordat u tekent. Mistrals Team-abonnement kost $24,99 per gebruiker per maand, met een minimum van twee gebruikers; Enterprise en PhariaAI zijn maatwerk op aanvraag.
Lokaal gehost open-weight model
Eenmalig hardware, plus vaste beheerurenEen open-weight model zoals Mistral, Gemma van Google of een Llama 3-tekstmodel van Meta, op een eigen server of in een private cloud die u zelf beheert. Tools als Ollama, LM Studio of vLLM regelen de hosting. Lees wel de licentie: Meta sluit bedrijven met hoofdvestiging in de EU uit van zijn multimodale modellen, waaronder alle Llama 4-varianten. Aya van Cohere is alleen voor niet-commercieel gebruik vrijgegeven. Geen abonnement, volledige controle. Vraagt IT-capaciteit voor onderhoud en model-updates.
Voor het meeste kantoorwerk volstaat een open-weight model lokaal qua kwaliteit. Voor de allerzwaarste juridische redenering blijft het verschil met publieke topmodellen wel voelbaar.
Wat kost een private LLM?
Dat hangt af van de vorm. Een zakelijke of Europese dienst rekent per gebruiker per maand. Per september 2026 kost Microsoft 365 Copilot Bedrijven 18,20 euro per gebruiker per maand bij jaarbetaling, exclusief btw en bovenop een Microsoft 365-abonnement. Het Team-abonnement van Mistral kost 24,99 dollar per gebruiker per maand, met een minimum van twee gebruikers. ChatGPT Enterprise, Mistral Enterprise en PhariaAI van Aleph Alpha gaan op offerte.
Een model op een eigen server betaalt u vooral eenmalig, in hardware. Hoe zwaar die moet zijn, bepaalt het model dat u wilt draaien: een klein open-weight model draait op één werkstation met een krachtige videokaart, een groot model vraagt serverhardware. Daarbovenop komen stroom en vaste uren voor model-updates, beveiligingspatches en monitoring.
Laat u een model bouwen op uw eigen documenten, dan betaalt u een implementatiepartner voor de bouw en daarna voor het beheer. Vraag die twee posten apart op. De prijs hangt af van de omvang van uw archief en van wie het systeem na oplevering onderhoudt.
Wat AI Act en AVG eisen
De AI Act regelt niet welke aanbieder u kiest, maar wel welke verplichtingen u heeft per situatie. De AVG bepaalt de spelregels voor persoonsgegevens. Vier kaders die bij elke keuze meespelen.
AI-geletterdheid (Art. 4 AI Act)Sinds 2 februari 2025 neemt elke organisatie die AI inzet maatregelen die de AI-geletterdheid van haar personeel ondersteunen, of het nu ChatGPT Enterprise is of een lokaal model (Artikel 4, lid 1). Dat geldt voor iedereen die namens u met AI-systemen werkt, niet alleen voor de IT-afdeling. De wet eist geen bepaald kennisniveau per medewerker. Leg wel vast wie wanneer is opgeleid, zodat u de inspanning kunt aantonen.
Transparantie naar mensen (Art. 50 AI Act)Dit gaat over wat de mensen aan de andere kant merken. Praten klanten of medewerkers rechtstreeks met een chatbot, dan moet het systeem laten weten dat zij met AI te maken hebben, tenzij dat al duidelijk is. De aanbieder moet daarvoor zorgen (Artikel 50, lid 1). Genereert het systeem tekst, beeld, audio of video, dan markeert de aanbieder die output machineleesbaar als kunstmatig gegenereerd (Artikel 50, lid 2). Bouwt u zelf een assistent op een lokaal model en neemt u die in gebruik, dan bent u aanbieder van dat AI-systeem (Artikel 3, punt 3 en punt 11) en liggen beide plichten bij u. Ze gelden sinds 2 augustus 2026. Alleen de markering kent een overgangsregel: generatieve systemen die vóór die datum in de handel waren, hebben tot 2 december 2026 (Artikel 111, lid 4).
GPAI-documentatie (Art. 53 AI Act)Aanbieders van AI-modellen voor algemene doeleinden, zoals OpenAI, Anthropic en Mistral, houden technische documentatie bij die zij op verzoek aan het AI-bureau en de nationale bevoegde autoriteiten verstrekken (Artikel 53, lid 1, onder a). Daarnaast stellen zij documentatie beschikbaar aan partijen die het model in hun eigen AI-systeem integreren. Let op wie dat zijn: downstream aanbieders, niet elke zakelijke eindgebruiker. Gebruikt u een model zoals het is, dan geeft Artikel 53 u geen recht op dat dossier. Wat wel openbaar is, is de voldoende gedetailleerde samenvatting van de trainingscontent uit Artikel 53, lid 1, onder d. Verder gaan is een contractvraag, geen wettelijk recht. Zet informatie over beperkingen, evaluaties en bekende zwaktes dus expliciet in uw inkoopvoorwaarden, zeker bij niche-aanbieders.
Verwerkersovereenkomst (Art. 28 AVG)Zodra persoonsgegevens een AI-tool in gaan, heeft u een DPA nodig met de aanbieder. ChatGPT Enterprise, M365 Copilot en de Europese aanbieders bieden er standaard een. Draait het model lokaal, dan verwerkt u de gegevens zelf, als verwerkingsverantwoordelijke. Voor het model is dan geen verwerkersovereenkomst nodig, wel voor elke partij die de gegevens voor u opslaat of beheert, zoals een cloud- of hostingleverancier (artikel 28, lid 3, AVG).
De keuze tussen publieke en private LLM verandert niets aan de risicoklasse onder Bijlage III van de AI Act. Een AI-systeem dat de kredietwaardigheid van natuurlijke personen beoordeelt, is hoog-risico (Bijlage III, punt 5, onder b), of het nu op ChatGPT Enterprise draait of op een lokaal model. Fraudedetectie valt daar uitdrukkelijk buiten. De plichten voor deze systemen gelden vanaf 2 december 2027. Wel maakt private LLM het makkelijker om de documentatie-eisen te halen.
Sector-keuzes, vier profielen
Vier veelvoorkomende profielen waar de keuze concreet wordt.
Advocatenkantoor (NOvA-toezicht)Aanbevelingen NOvA (december 2025): vraag de cliënt toestemming voor AI-gebruik in het dossier en voer geen vertrouwelijke of cliëntgegevens in publieke AI-modellen. Minimaal niveau 2 (zakelijke AI met DPA). Voor zwaardere zaken of internationale cliënten: niveau 3 (Europese private LLM of lokaal). Dat controle geen formaliteit is, bleek op 27 juli 2026: de Raad van Discipline 's-Hertogenbosch berispte een advocaat die AI-gegenereerde ECLI-nummers overnam zonder ze na te lopen (ECLI:NL:TADRSHE:2026:93).
Notariskantoor (KNB-beroepsregels)Wna art. 22 (beroepsgeheim) plus de KNB AI-weegschaal (2025). Voor concept-akten en intern onderzoek volstaat M365 Copilot of ChatGPT Enterprise met DPA. Voor dossier-zoeken over jaren heen wint een lokaal gehoste LLM of een Mistral Enterprise-instance, want dan blijft uw archief binnen het kantoor.
Accountantskantoor (AFM-toezicht)Vergelijkbaar met notariaat. De AFM verwacht bij AI in de controle dat uitkomsten verifieerbaar of reproduceerbaar zijn (bouwsteen 11 uit '12 bouwstenen voor beheerst gebruik van audit-tooling', december 2025). Lokaal gehoste LLM scoort sterk op auditability. M365 Copilot met audit-log is een werkbaar minimum, mits het kantoor die logs ook echt naleest.
Financiële dienstverlener (DNB/AFM-toezicht)Strenge regels voor ICT-uitbesteding en derdepartijrisico (DORA, Verordening (EU) 2022/2554, plus de EBA-richtsnoeren inzake uitbesteding). Pragmatisch: een Europese aanbieder met SOC 2 plus ISO 27001 én een DPA. Beoordeelt een AI-systeem de kredietwaardigheid van natuurlijke personen, dan is het hoog-risico (Bijlage III, punt 5, onder b) en gelden vanaf 2 december 2027 de eisen van hoofdstuk III, waar het model ook draait. Een lokaal model maakt het bewaren van logs onder eigen controle eenvoudiger (Artikel 26, lid 6). Voor algemene productiviteit kan M365 Copilot binnen de EU Data Boundary volstaan, mits webzoeken via Bing, flex routing en de modellen van Anthropic uit staan. Zie Mag u Microsoft 365 Copilot gebruiken onder de AVG?
Beslis-matrix in vier vragen
Vier vragen die de keuze sturen voordat u een licentie tekent.
Hoe gevoelig is de data? Klantnaam plus dossiernummer = minimaal niveau 2. Volledig dossier met medische of financiële data = niveau 3.
Heeft u IT-capaciteit voor zelfbeheer? Een lokaal model vraagt vaste uren voor model-updates, security-patches en monitoring. Zonder die capaciteit blijft een zakelijke aanbieder de juiste keuze.
Welke audit-eisen heeft uw toezichthouder? De AFM verwacht bijvoorbeeld dat AI-uitkomsten in de accountantscontrole verifieerbaar of reproduceerbaar zijn. Moet u achteraf kunnen herleiden welk model welke uitkomst gaf, dan helpt het als u zelf bepaalt welke modelversie draait en wat er wordt gelogd. Een lokaal gehost model of een vast gepinde modelversie bij een zakelijke aanbieder geeft u die controle.
Is het budget structureel of voor een pilot? Pilot van zes tot acht weken: kies de snelste-te-rollen optie (M365 Copilot of ChatGPT Enterprise). Structureel: investeer in een private LLM-architectuur die meeschaalt.
Implementatie in drie fases
Pilot starten
Week 1-6Zes weken, één use case (vaak concept-correspondentie), één tool op niveau 2. Twee tot drie medewerkers, expliciet beleid over welke data wel of niet de tool in mag.
Schalen en evalueren
Week 7-14Breid uit naar twee tot drie use cases, evalueer of de huidige optie data-soeverein genoeg is, beslis over upgrade naar Europese private LLM of lokaal gehost.
Integreren en herijken
DoorlopendVerwerk de gekozen oplossing in dagelijkse processen, leg AI-beleid en audit-trail vast, herijk jaarlijks bij contract-vernieuwing of grote feature-updates.
Veelgemaakte fouten
Vier valkuilen die het verschil maken tussen werkende AI-inzet en onnodige risico's.
Een licentie kopen vóór het beleid is geschrevenBepaal eerst welke data nooit naar buiten mag, kies dan de tool die dat onmogelijk maakt. Andersom werken kost u dubbel: contract én herziening.
Aannemen dat 'EU Data Boundary' gelijkstaat aan AVG-conformHet is een contractuele en technische barrière, geen wettelijke vrijwaring. De verwerkersovereenkomst moet schriftelijk vastliggen, elektronisch mag ook (artikel 28, lid 9, AVG). Controleer dat hij van toepassing is op het product en de licentie die u afneemt. De lijst met subverwerkers hoort erbij.
Modeltraining-instellingen niet controlerenBij ChatGPT Enterprise staat modeltraining standaard uit, bij M365 Copilot eveneens. Sommige third-party plug-ins doen dat anders. Controleer per integratie en documenteer het.
Lokaal gehost gelijkstellen aan 'klaar'Een lokaal Llama vraagt onderhoud: model-updates, security-patches, monitoring. Zonder die discipline veroudert de oplossing snel en wordt het een risico-bron in plaats van een controle-bron. Zie ook onze gids over Copilot-governance onder de AI Act voor de bredere governance-implicaties.
Veelgestelde vragen
Wat is het verschil tussen ChatGPT Enterprise en een private LLM?
ChatGPT Enterprise is de zakelijke variant van OpenAI's publieke ChatGPT, met verwerkersovereenkomst, modeltraining uit en de mogelijkheid om gegevens in Europa op te slaan. Een 'private LLM' kan ChatGPT Enterprise omvatten, maar verwijst meestal naar Europese aanbieders (Mistral, Aleph Alpha) of lokaal gehoste open-weight modellen (Llama 3, Mistral via Ollama). Het verschil zit in soevereiniteit en wie de uiteindelijke controle heeft, niet in de techniek.
Is een private LLM verplicht onder de AI Act?
Nee. De AI Act stelt eisen aan wat u met AI doet: AI-geletterdheid (Artikel 4), transparantie (Artikel 50) en bij hoog-risicosystemen de plichten van Artikel 26. Een aanbieder of hostingvorm schrijft de wet niet voor. Voor hoog-risico AI onder Bijlage III is een audit-trail wel makkelijker te realiseren met een private of lokaal gehoste oplossing dan met een publieke API.
Kunnen we een private LLM laten bouwen op onze eigen documenten?
Ja. Meestal traint niemand daarvoor een nieuw model. Een implementatiepartner installeert een bestaand open-weight model op uw server of in een EU-cloud en koppelt het aan uw documenten. Het model baseert zijn antwoorden dan op passages uit uw archief (retrieval-augmented generation, RAG). Laat u het systeem voor eigen gebruik bouwen, dan bent u zelf de aanbieder (Artikel 3, punt 3) en liggen de transparantieplichten van Artikel 50 bij u. Kan de partner bij persoonsgegevens, sluit dan een verwerkersovereenkomst (artikel 28 AVG). Spreek af wie het systeem beheert en bijwerkt.
Kan een notariskantoor of advocatenkantoor lokaal hosten?
Ja. Een open-weight model (bijvoorbeeld Mistral of een Llama 3-tekstmodel) op een eigen server vraagt vooral een eenmalige investering in hardware, afhankelijk van hoe groot het model is. Daarbij komen vaste uren voor model-updates en beveiliging. Controleer de licentie: de multimodale Llama-modellen, waaronder Llama 4, zijn niet gelicentieerd aan bedrijven met hoofdvestiging in de EU. Voor de meeste kantoortaken (concept-correspondentie, samenvatten, dossier-zoeken) levert dit een werkbare oplossing waarbij de gegevens binnen uw eigen omgeving blijven.
Wat kost een private LLM per maand?
Vanaf circa 180 euro per maand voor tien gebruikers van een zakelijke dienst (per september 2026, exclusief btw). Microsoft 365 Copilot Bedrijven kost 18,20 euro per gebruiker per maand bij jaarbetaling, bovenop het Microsoft 365-abonnement: 182 tot 546 euro voor 10 tot 30 gebruikers. Mistral Team kost 24,99 dollar per gebruiker, circa 250 tot 750 dollar per maand. Enterprise-varianten en PhariaAI gaan op offerte. Een model op eigen server kost vooral eenmalig hardware, plus stroom en beheeruren.
Drie acties voor deze week
- Inventariseer waar publieke AI nu wordt gebruikt op uw kantoor. De Autoriteit Persoonsgegevens ziet het aantal datalekken rond generatieve AI stijgen en waarschuwt voor de invoer van persoonsgegevens in die tools (visiedocument 'Verantwoord vooruit', 4 februari 2026).
- Bepaal welke data nooit in een tool mag, vóórdat u tools vergelijkt. Schrijf het op één pagina op.
- Plan een pilot van zes weken op één use case met een tool op niveau 2 of 3. Publieke AI is voor kantoren met beroepsgeheim of contractuele vertrouwelijkheid vrijwel nooit acceptabel.
Die afspraak over data hoort in uw AI-beleid. In AIComplianceHub genereert u dat beleid eenmalig gratis, zonder creditcard, via AI-beleid opstellen.