Namen en rugnummers, s’il vous plaît!
Artificial Intelligence (AI) lijkt in vrijwel alle sectoren toepassing te vinden. In het recht wordt AI onder meer gebruikt voor predictive justice. Met een algoritme wordt op basis van jurisprudentie de uitkomst van rechtszaken voorspeld. Een recent voorbeeld is het onderzoek waarover het NRC kopte: ‘Wie personeel wil lozen moet na een ruzie bij de rechtbank Den Haag zijn’ (NRC 11 september 2019). De voorspellingen zijn in dit onderzoek per rechtbank gepresenteerd, maar het is ook mogelijk voorspellingen te doen voor individuele rechters. Een gat in de markt? Of een gevaarlijke ondermijning van de rechtsstaat?
De Franse wetgever is overtuigd van het laatste. In Frankrijk is het recentelijk verboden namen van rechters ‘te hergebruiken voor het evalueren, analyseren, vergelijken en voorspellen van hun feitelijke of veronderstelde professionele handelen’ (art. L10 Code de justice administrative; art. L111-13 Code de l’organisation judiciaire). Op overtreding staat maximaal vijf jaar celstraf. Het is de Franse overheid dus menens.
Het verbod is onderdeel van een gerechtelijke hervorming. De wetgever heeft enerzijds besloten dat alle uitspraken openbaar toegankelijk worden en anderzijds dat die uitspraken niet mogen worden gebruikt voor analyses op basis van identiteitsgegevens van rechters.
Dat predictive justice voor- en nadelen kent, is duidelijk. Wij richten ons hier op de grondwettelijke argumenten. Daartoe bespreken wij de grondwettelijke toetsing van het verbod door de Franse Conseil Constitutionnel (Beslissing Conseil constitutionnel, 2019-778). Wij hebben kritiek op de wijze van toetsing door de Conseil.
De initiatiefnemers van de wet voerden bij de Conseil aan dat het verbod nodig is om te voorkomen dat druk wordt uitgeoefend op rechters en ter voorkoming van ondermijnende processtrategieën, zoals forumshopping. Tegenstanders van het verbod stelden dat de verboden analyses tot een betere kennis van het recht leiden, wat de gelijkheid tussen partijen bevordert. De Conseil besliste ten faveure van het verbod: dat maakt geen ongerechtvaardigd onderscheid tussen personen en maakt geen inbreuk op een eerlijk proces.
De Conseil Constitutionnel heeft het verbod echter niet getoetst aan het recht van vrijheid van meningsuiting. Dat had wat ons betreft wel moeten gebeuren; het verbod kan immers worden gezien als een vorm van overheidscontrole op de informatiestroom en daarmee als censuur.
Artikel 10 EVRM garandeert het recht van vrijheid van meningsuiting, waaronder het recht informatie te verstrekken en te ontvangen. Onder dat ontvangstrecht valt ook de eenieder toekomende vrijheid om (actief) informatie te vergaren (Yearbook of the European Convention on Human Rights 1975, p. 74; De Meij e.a., Uitingsvrijheid, 2000, p. 142). Het verwerken en analyseren van data valt onzes inziens onder die garingsvrijheid. Artikel 10 lid 2 EVRM staat daarop beperkingen toe op grond van limitatief opgesomde doelen. Een daarvan is het waarborgen van het gezag en de onpartijdigheid van de rechterlijke macht. Maar dan moet wel worden voldaan aan de noodzakelijkheidstoets. Wij menen dat het verbod deze toetsing niet kan doorstaan.
Ten eerste zien wij niet in hoe predictive justice kan leiden tot het uitoefenen van druk op rechters. Analyses vinden plaats op basis van al gewezen rechtszaken en zijn daarmee niet gericht op de beïnvloeding van lopende zaken. Daarnaast zou op basis van datzelfde argument alle nieuwsberichtgeving over individuele rechters aan banden moeten worden gelegd, omdat de kans zou bestaan dat zij zich daardoor in de toekomst zouden laten leiden. Ten tweede overtuigt het argument dat het verbod nodig is ter voorkoming van forumshopping niet, zeker niet omdat analyses op gerechtsniveau wel zijn toegestaan. Je eigen rechter kun je immers niet kiezen, het bevoegde gerecht in sommige gevallen wel. De argumenten voor een verbod rechtvaardigen volgens ons dan ook niet het opzijschuiven van dit grondrecht.
Bovendien bestaan voor de genoemde problemen minder vergaande maatregelen. Bedreiging en belediging van rechters, smaad en laster: die verboden bestaan al. Daarnaast zijn er specifiekere, minder ingrijpende maatregelen beschikbaar om forumshopping te beperken. Kortom: verbied niet de analyses, maar het onwenselijke gebruik ervan.
AI is een uitdaging voor juristen en zal dat voorlopig blijven. Het is zoeken naar een balans die het enerzijds mogelijk maakt de vruchten te plukken en anderzijds voorkomt dat de rechtsstatelijke waarden worden ondermijnd. Die balans vinden is niet altijd eenvoudig, maar bij de Fransen slaat zij thans wel erg ver door.
Dit redactioneel van Jim van Mourik & Jouke Tegelaar is verschenen in Ars Aequi december 2019.