De AP is, anders dan andere toezichthouders, verantwoordelijk voor het toezien op de naleving van verschillende mensenrechten. Sinds de oprichting van de AP zijn krijgt zij steeds meer verantwoordelijkheden. Hieronder valt onder meer het toezicht op algoritmen die door de overheid worden gebruikt (1). Concreet moet de AP dus toezien op mogelijke discriminatie door algoritmen, naast het toezien op het recht van privacy. “De kern van de rechtstaat zijn de grondrechten, en die grondrechten worden met de dag belangrijker”, concludeert Aleid Wolfsen, voorzitter van de AP.

AI toepassing

Kunstmatige intelligentie kan op verschillende terreinen een waardevolle rol spelen bij het proces van rechterlijke oordeelsvorming. Dat was de boodschap van raadsheer Manuella van der Put. Eerder schreef zij een proefschrift (2) over het onderwerp en ontwikkelde zij, in samenwerking met Nitin Narayan (Jheronimus Academy of Data Science), een tool die praktijkonderzoek mogelijk maakte. De tool had tot doel de rechtsprekende kwaliteiten van AI in Mulderzaken te onderzoeken.

De tool heeft vijf functionaliteiten: [1] De tool toetst de ontvankelijkheid van het beroep door de beroepstermijnen en zekerheidstelling van boetes in één metriek weer te geven en te toetsen. [2] De tool vat de kern van de zaak samen door de tenlastelegging en het verweer te verwerken. [3] De tool vindt vergelijkbare zaken. [4] Het systeem geeft uitkomsten in vergelijkbare zaken weer in een grafiek. [5] Het systeem calculeert wat de mogelijke uitkomst van de voorliggende zaak zou kunnen zijn.

Uit het onderzoek bleek dat het systeem nagenoeg altijd goed kon inschatten of de termijn van het beroep verstreken was of dat de boete nog niet zou zijn betaald. Hoewel dit niet per se getuigt van de intelligentie van het systeem valt niet te ontkennen dat een dergelijke tool niet alleen innovatief, maar zelfs broodnodig is gezien de meer dan 8 miljoen Mulder boetes die jaarlijks worden uitgedeeld. Het ontbreken van een systeem dat de ontvankelijkheid van beroep automatisch toetst lijkt een groot gemis in de huidige rechterlijke afhandeling van dit soort zaken.

Hoewel de AI-tool op het moment nog in de kinderschoenen staat, is het moeilijk om een toekomst in te beelden zonder een plek voor AI-toepassingen in de rechtspraak. Van der Put presenteerde de tool onlangs op een Congres in Wenen. “Toen ik de tool presenteerde ontving ik enorm veel enthousiaste reacties. Op dat moment realiseerde ik me dat niemand hier nog mee bezig is en dat we echt niet achterlopen.”

(1) https://www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/coordinatie-toezicht-algoritmes-ai/directie-coordinatie-algoritmes-dca

(2) https://pure.uvt.nl/ws/portalfiles/portal/62270608/van_der_Put_Kunstmatige_25_05_2022_emb_tot_25_05_2023.pdf

Over de auteurs

  • Christian Cordoba Lenis

    Christian Cordoba Lenis is nieuwsredacteur voor PONT | Data & Privacy. Cordoba Lenis is geïntrigeerd door het raakvlak tussen technologie en recht. Cordoba Lenis heeft zowel een juridische als een technische achtergrond en waagt zich nu aan het journalistieke vak.

    PONT | Data & Privacy

Gerelateerd nieuws

Nederlandse Privacy Awards 2025: Inschrijvingen Geopend

Op 28 januari 2025, tijdens de Europese Dag van de Privacy, organiseert Privacy First de jaarlijkse uitreiking van de Nederlandse Privacy Awards. De prijzen worden uitgereikt aan ondernemingen, overheden en organisaties die uitblinken in privacybewuste oplossingen en informatiebescherming. Kent u een organisatie met dé oplossing voor een privacyvriendelijke toekomst? Schrijf de betreffende organisatie dan in voor de Nederlandse Privacy Awards!

Data & Privacy

Illegaal AI-project Transactiemonitoring Nederland voor de rechter

De stichting Human Rights in Finance stond afgelopen woensdag 11 september in de rechtszaal tegenover De Nederlandsche Bank. De toezichthouder moet, volgens de stichting, optreden tegen de vijf grootbanken en garanderen dat de uitbestedingsovereenkomst van banken met Transactiemonitoring Nederland opgezegd wordt. De omstreden samenwerking tussen de overheid, toezichthouders en banken wordt door partijen ontkend, maar uit eigen documenten blijkt dat de samenwerking al in 2020, op initiatief van Ministerie van Financien, is ontstaan. De Rotterdamse rechtbank buigt zich nu over de vraag of de toezichthouder een einde moet maken aan de vermeende gedoogstructuur.

Data & Privacy

KU Leuven: ‘Dating-apps lekken gevoelige data’

Een recent onderzoek van de KU Leuven heeft verontrustende privacyrisico's aan het licht gebracht in locatiegebaseerde dating-apps. Het onderzoek, dat werd gepresenteerd op congressen zoals Black Hat en USENIX Security, richtte zich op de vijftien meest gedownloade LBD-apps in de Google Play Store, waaronder populaire namen als Tinder, Badoo en Grindr.

Data & Privacy

Omstreden Chat Control-wet wederom op agenda Raad van Europa

De controversiële chat control-wetgeving staat weer op de agenda van de Raad van Europa. Onder het Hongaarse voorzitterschap wordt op 4 september 2024 gewerkt aan uitwerking van de wetstekst. De wetgeving, die voorziet in de massale controle en scanning van privécommunicatie, wordt door veel privacy- en mensenrechtenorganisaties als een bedreiging gezien voor de fundamentele rechten van burgers. Eerder dit jaar werd het wetsvoorstel, mogelijk na aanleiding van hevige kritiek plots van de agenda afgehaald. De Raad werkt nu aan een herziene versie, maar experts blijven kritisch.

Data & Privacy