Kunstmatige intelligentie (ai) wint terrein in de rechtspraak, wat tijd kan besparen maar ook risico’s met zich meebrengt. Dat stelt de onderzoeker Benedikt Schmitz van de Rijksuniversiteit Groningen (RUG). Ter nader onderzoek heeft Schmitz daarom met twee Duitse collega’s de Europese Groep voor de Digitalisering van Justitie (EGDJ) opgericht.
Hoewel ai nuttig is als technisch hulpmiddel, mag het volgens Benedikt Schmitz (RUG) nooit de plaats van de rechter innemen vanwege de noodzaak van menselijke controle. Ondanks dat de EU ai-systemen in de rechtspraak als hoog risico bestempelt, ziet hij advocaten en rechters in de praktijk al chatbots gebruiken. Ze doen dat om te brainstormen en zelfs om verzoekschriften of dagvaardingen te schrijven.
Oprichting EGDJ
Digitalisering van de rechtspraak vraagt ook in bredere zin veel aandacht. In geheel Europa voltrekt zich een digitale transformatie van rechtsstelsels. Daarom heeft de Groningse universitair docent samen met twee Duitse collega’s de Europese Groep voor de Digitalisering van Justitie (EGDJ) opgericht. De groep fungeert als een knooppunt voor rechtsgeleerden, praktijkjuristen en beleidsmakers om de uitdagingen en kansen van een door technologie gedreven juridisch landschap in alle juridische (procedurele) disciplines te bespreken. Doel is een netwerk op te zetten dat de gehele Europese Unie omvat.
Gerechtelijke procedures, administratieve procedures en buitengerechtelijke geschillenbeslechting worden in toenemende mate beïnvloed door digitale communicatie en het gebruik van ai. Hoewel deze ontwikkelingen aanzienlijke mogelijkheden bieden op het gebied van efficiëntie, toegankelijkheid en transparantie binnen het rechtssysteem, roepen ze tegelijkertijd fundamentele vragen op over de rechtsstaat en procedurele rechtvaardigheid.
Schmitz ziet ai als technische vernieuwing, niet als een revolutie die mensen straks overbodig maakt. ‘Maar ook als technische vernieuwing is er nog genoeg om voorzichtig mee te zijn.’
EU AI Act
Afgelopen zondag 2 augustus is de volgende stap van de EU AI Act in werking getreden. Die verordening reguleert ai-systemen op basis van het risico dat ze vormen voor mensen en de samenleving. Schmitz: ‘De rechtspraak hoort tot de hoogste risicocategorieën. Het ‘Iura novit curia’-beginsel is essentieel: de rechter hoort het recht te kennen en moet erop letten dat de juiste regels worden toegepast. Blind vertrouwen op ai is dus gevaarlijk en iemand automatisch veroordelen, zonder tussenkomst van een mens, mag al helemaal niet.’
Ook advocaten mogen niet klakkeloos overnemen wat ai hen suggereert te doen. Onlangs berispte de tuchtrechter in Den Bosch een Limburgse advocate wegens juridisch broddelwerk als gevolg van verkeerd en ondoordacht ai-gebruik.
