Trainen van AI-systemen: het recht handhaven of havenen?
Door verschillende nationale en internationale gremia wordt AI gepresenteerd als een van de grote kansen, maar ook grote uitdagingen, voor de rechtshandhaving (Europol 2024; Wetenschappelijke Adviesraad Politie 2025). Enerzijds biedt AI waardevolle mogelijkheden om bijvoorbeeld de opsporing te versterken, anderzijds roept de inzet daarvan een groot aantal juridische en ethische vragen op. Een van deze vraagstukken betreft het gebruik van data voor het trainen van AI. Om AI-systemen te trainen zijn immers enorme hoeveelheden data nodig, waaronder onvermijdelijk persoonsgegevens (Vink & Wijsman, Cahiers Politiestudies 2025, afl. 77, p. 332). In dit redactioneel werpen wij enkele vragen op over de grondslag voor gegevensverwerking van trainingsdata door de politie en de oorsprong van deze data, en pleiten wij voor een debat over de te maken afwegingen.
Allereerst is er momenteel geen duidelijke juridische grondslag voor het verwerken van gegevens door de politie voor het trainen van AI. Het verwerken van gegevens ten behoeve van (kort gezegd) de rechtshandhaving, valt in beginsel onder de Wet politiegegevens (Wpg). De Wpg bevat verschillende grondslagen voor verwerking van gegevens, zoals voor opsporing of de dagelijkse politietaak (art. 8-10), maar geen specifieke grondslag voor de verwerking van gegevens ten behoeve van het trainen van AI. Wel biedt de Wpg een grondslag voor verwerking ten behoeve van beleidsinformatie, wetenschappelijk onderzoek of statistiek (art. 22) (Vink & Wijsman 2025, p. 333). De wetgever zal niet voorzien hebben dat daaronder ook het trainen van AI met grote hoeveelheden gegevens zou kunnen vallen.
Los van een verwerkingsgrondslag moet de data om AI-systemen mee te trainen ergens vandaan komen. Hoewel daarvoor reeds door de politie verwerkte gegevens zouden kunnen worden gebruikt, is het waarschijnlijker dat daarvoor grotere datasets gebruikt moeten worden die door private partijen (al dan niet tegen betaling) op internet worden aangeboden (Vink & Wijsman, p. 333; Schuilenburg Cahiers Politiestudies 2025, afl. 77, p. 318). Deze datasets zijn in de regel samengesteld door op grote schaal gegevens van het internet te kopiëren (het zogenoemde webscrapen). Omdat het om private partijen gaat, moet de verwerking gebaseerd worden op een van de grondslagen uit art. 6 lid 1 AVG, en omdat voor die verwerking meestal geen toestemming is gegeven, beroepen deze partijen zich doorgaans op de legitiem belang-grondslag (art. 6 lid 1 onder f AVG). De verwerkingsverantwoordelijke moet daarvoor niet alleen een legitiem belang hebben, maar dit belang moet ook de belangen van de betrokkene in gewicht overtreffen. Hoewel webscrapen niet zonder meer in strijd is met de AVG (EDPB Opinion 28/2024), neemt de Autoriteit Persoonsgegevens de positie in dat webscrapen, tenzij zeer gericht, vrijwel nooit op de legitiembelanggrondslag gestoeld kan worden, omdat daarmee al snel een grote inbreuk op de persoonlijke levenssfeer wordt gemaakt (AP 2025, p. 22). De kans is dus groot dat gegevens in deze datasets niet op rechtmatige wijze zijn verkregen. Wij vermoeden dat het niet eenvoudig zal zijn om te verifiëren of datasets enkel rechtmatig verwerkte gegevens bevatten.
Wat ons betreft roept het gebruik van datasets die ten grondslag liggen aan AI-modellen niet alleen juridische vragen op, maar ook onvermijdelijk politieke en ethische vragen. Met het gebruik van deze datasets lijkt de onrechtmatige verwerking immers impliciet te worden goedgekeurd. Bovendien is het vaak onduidelijk of AI-systemen hun theoretische beloftes daadwerkelijk kunnen waarmaken (Spithoven & Foppen, TvV 2025 p. 27), zoals ook het recentelijk stoppen met predictive-policing-systeem CAS illustreert (Verhagen, volkskrant.nl, 24 februari 2026). Er wordt hiertoe ook wel om meer onderzoek gevraagd (oratie Den Boer 2025, p. 18-19). Tegelijkertijd moet de potentie van AI niet miskend worden en lijkt het kunnen ontwikkelen van AI-modellen in Europa steeds meer een politieke kwestie (Boone, nrc.nl, 7 mei 2026), waarbij zelfs wordt gediscussieerd over de noodzaak van een versoepeling van het gegevensbeschermingsrecht (vgl. Van Dalen, NJB 2026/644). Wat ons betreft kan deze afweging op dit moment niet door de politie alleen gemaakt worden, maar vergt zij een breed, publiek debat en eventueel ingrijpen door de (Europese) wetgever. Dat vereist transparantie over hoe belangrijk het doel is waarvoor een AI-toepassing gebruikt zal worden, of er alternatieven zijn, en zo niet, waarom dat niet het geval is.
Dit redactioneel van Johan van Banning & Lenn Grutters is verschenen in Ars Aequi juni 2026.
Categorieën: Redactioneel, Weblogs