ChatGPT in juridibus: over kansen en tekortkomingen
Stelt u zich voor: razendsnel, gratis en betrouwbaar juridisch advies. Dat lijkt een utopie, maar die mogelijkheid is wellicht dichterbij dan gedacht. Dit jaar vroeg een Colombiaanse rechter de chatbot ChatGPT om input in een ingewikkelde medische verzekeringszaak, om de uitspraak vervolgens mede te baseren op de verkregen antwoorden. ChatGPT werd afgelopen november gelanceerd door het Amerikaanse OpenAI en kent na enkele maanden al meer dan 100 miljoen gebruikers. Op basis van ingevoerde data en kansberekening genereert ChatGPT woorden en zinnen waarvan het verwacht dat zij aansluiten bij de opdracht of vraag die de gebruiker invoert. Hierdoor is het in staat samenhangende teksten over uiteenlopende onderwerpen te produceren.
De lancering van ChatGPT zorgde voor reuring in het juristenlandschap – zowel in de wetenschap als de praktijk. Bij rechtenfaculteiten omdat fraude door studenten op de loer zou liggen. In de rechtspraktijk omdat de chatbot behulpzaam zou kunnen zijn bij het analyseren van juridische kwesties en zo inschakeling van juristen in sommige situaties overbodig zou maken. Wordt de soep zo heet gegeten als zij wordt opgediend? In dit redactioneel bespreken wij eerst drie kansen en vervolgens drie tekortkomingen van ChatGPT voor de rechtspraktijk en -wetenschap.
Kansen zien wij ten eerste in de efficiëntere uitvoering van eenvoudige juridische werkzaamheden. Zo kan ChatGPT dossiers samenvatten, contracten opstellen en brieven schrijven. Dat bespaart kostbare tijd, die vervolgens kan worden ingezet om taken uit te voeren die alleen een (menselijke) jurist kan uitoefenen. Hierdoor wordt de slagkracht van juridisch Nederland vergroot.
Ook bij ingewikkeldere juridische werkzaamheden kan ChatGPT ondersteuning bieden. Wordt het taalmodel uitgebreider getraind op het ‘lezen’ van rechtspraak, dan kan het op termijn betrouwbare systematische jurisprudentieanalyses verrichten. Dat kan zowel de praktijk als de wetenschap ten gunste komen.
Ten derde maakt de chatbot het recht toegankelijker voor niet-juristen. Verzoek je de chatbot om een ingebrekestelling, dan kan het daar aardig mee uit de voeten. Bovendien kan ChatGPT niet al te ingewikkelde juridische leerstukken in begrijpelijke taal, zonder jargon, uitleggen. Hierdoor worden burgers in staat gesteld zonder tussenkomst van een jurist eenvoudige juridische vraagstukken uit te zoeken.
Tekortkomingen van ChatGPT liggen om te beginnen in de onjuiste informatie die het taalmodel verschaft. De chatbot is er eerlijk over: het taalmodel is getraind op Engelstalige data, waardoor de vertaalslag onzuiver kan zijn en fouten in de antwoorden kunnen sluipen. Dit kan tot (overtuigende) onjuiste of onvolledige antwoorden leiden. Zo beweert de chatbot zonder aarzelen dat voor ondernemingen een recht op een basisbetaalrekening geldt – een recht dat evenwel slechts voor consumenten bestaat en is geregeld (art. 4:71f e.v. Wft) en voor ondernemingen ter discussie staat (vgl. D. Busch, noot bij HR ING Bank N.V./Yin Yang c.s, AA20220139). Hoewel de informatie feitelijk onjuist is, is deze niet zó onaannemelijk dat de gebruiker altijd direct door zal hebben dat de informatie niet klopt.
Een andere tekortkoming is het ontbreken van actuele informatie. ChatGPT is gevoed met allerlei informatie, afkomstig uit openbare en niet-openbare bronnen – maar het kan niet realtime bronnen doorzoeken naar een antwoord. Om op grote schaal bruikbaar te zijn en verouderde antwoorden te voorkomen, moet het model eigenlijk altijd up to date zijn.
Tot slot is het voor ChatGPT niet mogelijk een afweging te maken op basis van persoonlijke omstandigheden en emoties. Desgevraagd kan de chatbot ‘geen juridisch advies of garanties geven vanwege het ontbreken van menselijke beoordeling en verantwoordelijkheid’. Menselijke tussenkomst blijft dus nodig voor een redelijke belangenafweging.
Aldus brengt ChatGPT kansen met zich, maar heeft het ook verschillende tekortkomingen. Onzes inziens kan ChatGPT daardoor vooralsnog slechts beperkt en hoogstens ondersteunend worden ingezet in het juristenlandschap. Een mogelijk veelbelovende ontwikkeling is de juridische AI-startup Harvey, die de onderliggende software van ChatGPT toespitst op de rechtspraktijk en bij enkele juridische partijen inmiddels aftrek vindt. Hoe het ook zij: ChatGPT blijft op dit moment een in de kern niet zelf-nadenkend, maar voorspellend taalmodel – met al zijn inherente tekortkomingen. Het is daarom de vraag of ChatGPT in zijn huidige vorm een revolutie in juridisch Nederland kan ontketenen.
Dit redactioneel van Daan Groenewoud & Maartje Kouwenberg is verschenen in Ars Aequi mei 2023.
Categorie: Redactioneel