De AP is, anders dan andere toezichthouders, verantwoordelijk voor het toezien op de naleving van verschillende mensenrechten. Sinds de oprichting van de AP zijn krijgt zij steeds meer verantwoordelijkheden. Hieronder valt onder meer het toezicht op algoritmen die door de overheid worden gebruikt (1). Concreet moet de AP dus toezien op mogelijke discriminatie door algoritmen, naast het toezien op het recht van privacy. “De kern van de rechtstaat zijn de grondrechten, en die grondrechten worden met de dag belangrijker”, concludeert Aleid Wolfsen, voorzitter van de AP.

AI toepassing

Kunstmatige intelligentie kan op verschillende terreinen een waardevolle rol spelen bij het proces van rechterlijke oordeelsvorming. Dat was de boodschap van raadsheer Manuella van der Put. Eerder schreef zij een proefschrift (2) over het onderwerp en ontwikkelde zij, in samenwerking met Nitin Narayan (Jheronimus Academy of Data Science), een tool die praktijkonderzoek mogelijk maakte. De tool had tot doel de rechtsprekende kwaliteiten van AI in Mulderzaken te onderzoeken.

De tool heeft vijf functionaliteiten: [1] De tool toetst de ontvankelijkheid van het beroep door de beroepstermijnen en zekerheidstelling van boetes in één metriek weer te geven en te toetsen. [2] De tool vat de kern van de zaak samen door de tenlastelegging en het verweer te verwerken. [3] De tool vindt vergelijkbare zaken. [4] Het systeem geeft uitkomsten in vergelijkbare zaken weer in een grafiek. [5] Het systeem calculeert wat de mogelijke uitkomst van de voorliggende zaak zou kunnen zijn.

Uit het onderzoek bleek dat het systeem nagenoeg altijd goed kon inschatten of de termijn van het beroep verstreken was of dat de boete nog niet zou zijn betaald. Hoewel dit niet per se getuigt van de intelligentie van het systeem valt niet te ontkennen dat een dergelijke tool niet alleen innovatief, maar zelfs broodnodig is gezien de meer dan 8 miljoen Mulder boetes die jaarlijks worden uitgedeeld. Het ontbreken van een systeem dat de ontvankelijkheid van beroep automatisch toetst lijkt een groot gemis in de huidige rechterlijke afhandeling van dit soort zaken.

Hoewel de AI-tool op het moment nog in de kinderschoenen staat, is het moeilijk om een toekomst in te beelden zonder een plek voor AI-toepassingen in de rechtspraak. Van der Put presenteerde de tool onlangs op een Congres in Wenen. “Toen ik de tool presenteerde ontving ik enorm veel enthousiaste reacties. Op dat moment realiseerde ik me dat niemand hier nog mee bezig is en dat we echt niet achterlopen.”

(1) https://www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/coordinatie-toezicht-algoritmes-ai/directie-coordinatie-algoritmes-dca

(2) https://pure.uvt.nl/ws/portalfiles/portal/62270608/van_der_Put_Kunstmatige_25_05_2022_emb_tot_25_05_2023.pdf

Over de auteurs

  • Christian Cordoba Lenis

    Christian Cordoba Lenis is nieuwsredacteur voor PONT | Data & Privacy. Cordoba Lenis is geïntrigeerd door het raakvlak tussen technologie en recht. Cordoba Lenis heeft zowel een juridische als een technische achtergrond en waagt zich nu aan het journalistieke vak.

    PONT | Data & Privacy

Gerelateerd nieuws

Persoonsgegevens of anonieme gegevens?

In een recente uitspraak van het Hof van Justitie van de Europese Unie (EDPS v GAR) is een belangrijke stap gezet in de discussie over pseudonieme, anonieme en persoonsgegevens. Het Hof bevestigt wat velen in het veld al langer betoogden: gepseudonimiseerde gegevens kunnen onder bepaalde omstandigheden wél persoonsgegevens zijn voor de verstrekker, maar géén persoonsgegevens zijn voor de ontvanger. De kwalificatie van gegevens hangt af van de concrete omstandigheden en de positie van de ontvanger. Deze benadering wordt ook wel aangeduid als de contextuele benadering en speelt een belangrijke rol bij de vraag: is de AVG van toepassing?

Data & Privacy

Ontslaat het pseudonimiseren van gegevens mijn onderneming van de verplichtingen op grond van de AVG?

Het blijft een uitdaging: welke gegevens worden aangemerkt als persoonsgegevens onder de Algemene Verordening Gegevensbescherming (AVG)? Onlangs boog de Rechtbank Midden-Nederland zich over dit vraagstuk, specifiek met betrekking tot de zogenoemde HoNOS+-gegevens. Deze gegevens zeggen iets over de geestelijke en sociale toestand van cliënten. Het oordeel van de rechtbank? Deze gegevens zijn géén persoonsgegevens, waarom niet? Lees hieronder de blog van advocaat bij Elferink & Kortier Advocaten, Tom Boitelle.

Data & Privacy

NIS2: risicoanalyse van eigen organisatie helpt om grip te krijgen op leveranciersmanagement

De Europese NIS2-richtlijn heeft als doel de digitale weerbaarheid van organisaties én hun toeleveranciers te versterken. Dat betekent dat bedrijven niet alleen hun eigen cyberrisico’s moeten begrijpen, maar ook die van hun toeleveranciers. Dit roept bij veel organisaties een belangrijke vraag op: wat betekent dit nu voor ons leveranciersmanagement?

Data & Privacy

Wetsvoorstel: meer bevoegdheden voor burgemeester bij online ordeverstoring

Op 4 juli is een wetsvoorstel in consultatie gebracht dat twee nieuwe bevoegdheden aan de burgemeesters toekent. Hiermee kan de politie onder zijn gezag persoonsgegevens uit publiek toegankelijke bronnen vergaren over de dreiging van een ernstige verstoring van de openbare orde. Het doel van het wetsvoorstel is dat de burgemeester en de politie meer zicht krijgen op ernstige verstoringen van de openbare orde en zij op basis daarvan adequater maatregelen kunnen treffen om deze te voorkomen, beletten of te beëindigen.

Data & Privacy