Geen enkel groot ai-model houdt zich aan de Europese wet- en regelgeving. Het best scorende systeem overtrad de wet in 46 procent van de getoetste gevallen, het slechtst presterende in 93 procent.
Dat blijkt uit nieuw onderzoek van het Amsterdamse ai-onderzoekinstituut Aithos. Het ai-onderzoeksinstrument Lara (Legal Assessment for Real-world Agents) toetste toonaangevende commerciële ai-modellen op verboden en risicovolle gedragingen op grond van Europese wet- en regelgeving.
Vooral Google gooit er met de pet naar. Google’s Gemini 3.1 Pro (preview release in februari) bleef steken op slechts 10 procent wettelijke naleving (‘legal compliance’). Gemini 2.5-pro zit op 11 procent. Twee Chinese modellen (Alibaba’s qwen3p6-plus en Moonshot AI’s kimi-k2p6) kwamen nog slechter uit de bus.
Fundamentele grondrechten
Nog het beste bracht het in april gelanceerde Anthropic’s Claude-opus-4-7 er van af met een wettelijke naleving van circa 54 procent. Claude-sonnet-4-6 reikte tot 43 procent, Claude-opus-4-6 haalde 34 procent. OpenAI’s GPT-5.5 scoorde rond de 38 procent, beter dan versie 5.4 die op 17 procent kwam. Het Franse Mistral (large-2512) haalde 12 procent, DeepSeek-v4-pro 11 procent.
De toetsen zijn gebaseerd op tien fundamentele grondrechten uit de wet- en regelgeving voor AI in Europa: de AVG (GDPR), die persoonsgegevens beschermt, en de EU AI-verordening (EU AI Act), die scherpe grenzen stelt aan wat AI-systemen wel en niet mogen doen.
Schendingen
Niet alleen breekt elk van de ‘frontier’-modellen de wet, ook zijn alle geteste wetten gebroken. Op grote schaal vinden schendingen plaats op het gebied van gegevensbescherming, manipulatie, emotieherkenning en psychologische profilering. Ook worden verplichtingen genegeerd om menselijke supervisie toe te passen.
Gebrek aan naleving kan leiden tot boetes van maximaal 35 miljoen euro of 7 procent van de wereldwijde omzet op grond van de EU AI-verordening. Overtreding van de AVG kost maximaal twintig miljoen euro of 4 procent van hun jaarlijkse omzet. Bedrijven die ai-agents bouwen en op de markt brengen – dus niet de makers van het onderliggende ai-model – dragen primair de wettelijke verantwoordelijkheid voor naleving van de EU AI-verordening en de AVG. Organisaties die zo’n agent vervolgens inzetten, zijn daarvoor eveneens aansprakelijk.
Serieuze schade
Nadia Kadhim, executive drector bij Aithos, benadrukt dat dit geen abstracte wettelijke overtredingen zijn. ‘Wat wij met Lara willen aantonen, is dat de systemen waarop mensen dagelijks vertrouwen, nog niet zijn ingericht om hun rechten te beschermen.’ Volgens haar zouden de uitkomsten niet alleen de bedrijven die commerciële modellen inzetten grote zorgen moeten baren, maar iedereen die met een ai-systeem te maken krijgt. Ze zegt: ‘Deze wetten zijn er niet voor niets: Ai kan echt serieuze schade aan mensen toebrengen. Onze autonomie, onze privacy maar ook andere fundamentele mensenrechten staan op het spel.’
Daan Henselmans, research director bij Aithos, legt de werkwijze uit. ‘We plaatsen het model in een actieve simulatie, waarin het e-mails kan lezen, tools kan gebruiken of kan praten met klanten. Lara test hoe ai-systemen zich in de praktijk gedragen, niet hoe ze scoren op een vragenlijst.’
Lara
Lara is gratis beschikbaar en ontwikkeld met het oog op brede publiekelijke toegankelijkheid. De eerstvolgende update maakt het voor iedereen mogelijk om scenario’s te bouwen om vervolgens de ai-tools die van invloed zijn op hun leven te toetsen op basis van hun eigen voorkeuren. Ook zal Lara worden uitgebreid met de mogelijkheid verschillende nationale en internationale wetten te toetsen.
Kunnen we dit soort rechtenwaarborging/wetgeving niet ook inzake interacties tussen mensen onderling krijgen? Of gaat dat vooralsnog wat ver? Mooie vervolgmissie eventueel voor de EU en overheden als alles rondom ICT en AI een beetje afgerond dreigt te raken. Het schoolplein zelf is ook geen lolletje meer tegenwoordig, schijnt het.
Doet me eraan denken. Het is vandaag wereldtampondag. Meisjes – wiens meisjesbrein uiteraard nog lang niet uitontwikkeld is – worden meer en meer – ook hier in Nederland – getroffen door tamponarmoede. Ter bestrijding moeten glossy lipsticks niet zomaar op de page van de influencer besteld kunnen worden zonder van TikTok af te moeten.
De overheid heeft belang bij het creëren van zoveel mogelijk borderliners want die kunnen ze dan lekker tegen zichzelf en tegen elkaar gaan zitten beschermen met het creëren van nog meer borderliners. Klinkt als de gouden formule van religie van de afgelopen honderden jaren.
De rechtenwaarborging zit niet in nieuwe Europese regels, certificeringen of compliance-processen, maar in de mogelijkheid om macht onafhankelijk te controleren. Een burger hoeft niet te bewijzen dat een algoritme of besluit onjuist is wamt een overheid zou moeten kunnen aantonen welke gegevens zijn gebruikt, welke afwegingen zijn gemaakt, wie verantwoordelijk was en hoe eventuele fouten kunnen worden hersteld.
Vanuit dat perspectief is het toeslagenschandaal niet mislukt door een gebrek aan regelgeving, maar door een gebrek aan controleerbaarheid. Niet de gebruikte algoritmen veroorzaakten het onrecht maar het feit dat burgers geen effectieve toegang hadden tot informatie die nodig was om de besluitvorming te toetsen. Informatie-asymmetrie, geheimhouding en het ontbreken van tegenspraak maakten het systeem immuun voor correctie.
De AI Act en de AVG vertrekken grotendeels vanuit de gedachte dat meer documentatie, meer toezicht en meer compliance leiden tot betere rechtsbescherming maar zolang dezelfde instituties elkaar blijven controleren draait de discussie niet om AI maar om een klassiek staatsrechtelijk vraagstuk van wie controleert de controleur.
ja, klopt. Ze hadden gewoon in het belastingstelsel moeten inpassen in plaats van alleen bij de Dienst. Dan had het gelijk bij de belastingdrukprogressie ingezeten, had je werknemers kunnen laten kiezen of ze loonbelasting en premies via de werkgever wilden blijven doen of zelf maandelijks wilden afhandelen. Waarom zou je het via de werkgever willen doen als je regelmatig voor teruggave in aanmerking komt. Tegenwoordig is voorgebakken standaardafhandeling door de Dienst voor minder vaardige burgers nu bij toeslagen toch ook al het geval. Alleen dan veel complexer en minder rechtvaardig.
Oooh nee. De technische schuld natuurlijk. 😂😂
Schijnt dat er een verschil zit tussen rechtvaardig en rechtmatig waarbij het voordeel van AI voor wat betreft het laatste vooral ligt in het analyseren van jurisprudentie. AI leert immers van bestaande uitspraken en bestaande wetgeving met als risico dat historische vooroordelen en institutionele blinde vlekken worden gereproduceerd. Een algoritme kan daardoor steeds beter voorspellen wat volgens het geldende recht waarschijnlijk de uitkomst zal zijn maar daarmee is nog niet gezegd dat die uitkomst ook als rechtvaardig wordt ervaren.
Want hoewel onze rechtsstaat juridisch grotendeels seculier is georganiseerd zijn veel van de morele fundamenten waarop deze rust historisch gevormd door religieuze, filosofische en culturele tradities. Begrippen als menselijke waardigheid, proportionaliteit, verantwoordelijkheid en barmhartigheid zijn niet ontstaan uit een dataset of een algoritme maar uit eeuwen van maatschappelijk en normatief debat.
Daaraan veranderen een AI Act, AVG of regels uit Brussel weinig want zulke regels kunnen eisen stellen aan transparantie, toezicht, logging en verantwoording maar zij lossen niet de fundamentele vraag op waar onze normen vandaan komen en wie bepaalt wat rechtvaardig is. Want een perfect transparant systeem kan immers nog steeds een uitkomst produceren die maatschappelijk als onrechtvaardig wordt ervaren.
“AI leert immers van bestaande uitspraken en bestaande wetgeving met als risico dat historische vooroordelen en institutionele blinde vlekken worden gereproduceerd.””
Dit is inderdaad een risico maar zeker geen wetmatigheid. Sowieso in veel mindere mate een risico dan bij mensen.
Mens en AI leren op verschillende manieren als we kijken naar het herkennen van patronen versus een normatieve reflectie van maatschappelijke problemen. Het empirische leren in de context van belastingen en toeslagen gaat om de bureaucratische rigiditeit van een statistische benadering versus de menselijke maat van context. Uitdaging is daarom niet alleen om AI transparant en controleerbaar te maken maar ook om ruimte te houden voor de normatieve reflectie van uitlegbaarheid. Wanneer een normatieve reflectie plaatsmaakt voor statistische waarschijnlijkheid ontstaat het risico dat de menselijke maat verdwijnt achter modellen en risicoprofielen. Want iedere tijd denkt dat meer informatie het antwoord is terwijl de werkelijke schaarste vaak het begrip blijkt te zijn.
Als we kijken naar de zwakste schakel hierin dan is de beperkende factor het menselijke begrip want de geschiedenis leert dat de oplossing voor een gebrek aan begrip vaak wordt gezocht in meer informatie terwijl het werkelijke tekort zich bevindt in het vermogen om zinvolle betekenis aan die informatie te geven. Dat was in de tijd van de Romeinen al een probleem. Want Cicero beklaagde zich niet alleen over de moraal van zijn tijd maar ook over de afstand tussen alle formele instituties en de werkelijkheid die zij geacht werden te dienen. Hetzelfde probleem speelde in de Middeleeuwen toen de kennis grotendeels geconcentreerd was binnen de kerkelijke en bestuurlijke elites en toegang tot informatie een bron van gezag vormde.
O tempora, o mores! Wij verzamelen meer gegevens, wij registreren meer, meten meer, rekenen meer en voorspellen meer. Maar wie waakt er over het oordeel waarmee deze informatie uiteindelijk wordt geïnterpreteerd?
Want niet de hoeveelheid informatie bepaalt de waarheid, maar het verstand waarmee zij wordt begrepen. De uitvinding van de drukpers veranderde het machtsevenwicht ingrijpend doordat de informatie breder toegankelijk werd maar het probleem tijdens de verlichting toen wetenschap en publieke discussie werden ingezet om gevestigde machtsstructuren kritisch te bevragen was de vraag wie het recht had om de informatie te interpreteren en als kennis te presenteren. Een probleem wat doorwerkte in negentiende eeuw zoals niet alleen Victor Hugo beschreef in Les Misérables want registraties in de twintigste eeuw leidde uiteindelijk tot de vraag wie er toegang had tot de gegevens en hoe zij uiteindelijk werden gebruikt.
De ongemakkelijke relatie tussen “Wir haben es nicht gewusst” en de toeslagenaffaire kent een prelude waarmee politiek-bestuurlijk de deur open gezet werd voor een jacht op fraudeurs. Hierin zag het systeem steeds minder de mens achter de cijfers omdat normatieve reflectie plaatsmaakte voor een statistische waarschijnlijkheid. Dezelfde spanning werd trouwens zichtbaar tijdens de coronacrisis doordat een modelmatige werkelijkheid steeds meer de plaats innam van de empirische werkelijkheid. Het werkelijke risico van moderne bestuurssystemen op basis van AI ontstaat wanneer de modellen, registraties en waarschijnlijkheden niet langer worden gebruikt als hulpmiddelen om de werkelijkheid te begrijpen maar steeds meer de plaats van die werkelijkheid innemen.
Dan verschuift de aandacht van de mens naar het profiel, van context naar classificatie en van normatieve reflectie naar een statistische waarschijnlijkheid waardoor de rechtvaardigheid een algoritme wordt. In dat licht bekeken berust de kracht van een democratie niet alleen op het tellen van stemmen maar op de kwaliteit van het publieke begrip waarop die stemmen zijn gebaseerd. De strijd om informatie is vaak minder belangrijk dan de strijd om de interpretatie want wie deze interpretatie domineert beïnvloedt hoe burgers de werkelijkheid begrijpen. Never waste a good crisis is de mens niet het risico maar het verstommen van de kritiek als ik kijk naar een lange Europese geschiedenis.
Veel tekst hier om te zeggen dat je bij AI ook Ni moet gebruiken. Ni, natuurlijke intelligentie, of je eigen grijze cellen.
Dat ai gaat rondzingen hab ik al jaren geleden voorspeld, je ziet het gebeuren . . . . .