De AP is, anders dan andere toezichthouders, verantwoordelijk voor het toezien op de naleving van verschillende mensenrechten. Sinds de oprichting van de AP zijn krijgt zij steeds meer verantwoordelijkheden. Hieronder valt onder meer het toezicht op algoritmen die door de overheid worden gebruikt (1). Concreet moet de AP dus toezien op mogelijke discriminatie door algoritmen, naast het toezien op het recht van privacy. “De kern van de rechtstaat zijn de grondrechten, en die grondrechten worden met de dag belangrijker”, concludeert Aleid Wolfsen, voorzitter van de AP.

AI toepassing

Kunstmatige intelligentie kan op verschillende terreinen een waardevolle rol spelen bij het proces van rechterlijke oordeelsvorming. Dat was de boodschap van raadsheer Manuella van der Put. Eerder schreef zij een proefschrift (2) over het onderwerp en ontwikkelde zij, in samenwerking met Nitin Narayan (Jheronimus Academy of Data Science), een tool die praktijkonderzoek mogelijk maakte. De tool had tot doel de rechtsprekende kwaliteiten van AI in Mulderzaken te onderzoeken.

De tool heeft vijf functionaliteiten: [1] De tool toetst de ontvankelijkheid van het beroep door de beroepstermijnen en zekerheidstelling van boetes in één metriek weer te geven en te toetsen. [2] De tool vat de kern van de zaak samen door de tenlastelegging en het verweer te verwerken. [3] De tool vindt vergelijkbare zaken. [4] Het systeem geeft uitkomsten in vergelijkbare zaken weer in een grafiek. [5] Het systeem calculeert wat de mogelijke uitkomst van de voorliggende zaak zou kunnen zijn.

Uit het onderzoek bleek dat het systeem nagenoeg altijd goed kon inschatten of de termijn van het beroep verstreken was of dat de boete nog niet zou zijn betaald. Hoewel dit niet per se getuigt van de intelligentie van het systeem valt niet te ontkennen dat een dergelijke tool niet alleen innovatief, maar zelfs broodnodig is gezien de meer dan 8 miljoen Mulder boetes die jaarlijks worden uitgedeeld. Het ontbreken van een systeem dat de ontvankelijkheid van beroep automatisch toetst lijkt een groot gemis in de huidige rechterlijke afhandeling van dit soort zaken.

Hoewel de AI-tool op het moment nog in de kinderschoenen staat, is het moeilijk om een toekomst in te beelden zonder een plek voor AI-toepassingen in de rechtspraak. Van der Put presenteerde de tool onlangs op een Congres in Wenen. “Toen ik de tool presenteerde ontving ik enorm veel enthousiaste reacties. Op dat moment realiseerde ik me dat niemand hier nog mee bezig is en dat we echt niet achterlopen.”

(1) https://www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/coordinatie-toezicht-algoritmes-ai/directie-coordinatie-algoritmes-dca

(2) https://pure.uvt.nl/ws/portalfiles/portal/62270608/van_der_Put_Kunstmatige_25_05_2022_emb_tot_25_05_2023.pdf

Over de auteurs

  • Christian Cordoba Lenis

    Christian Cordoba Lenis is nieuwsredacteur voor PONT | Data & Privacy. Cordoba Lenis is geïntrigeerd door het raakvlak tussen technologie en recht. Cordoba Lenis heeft zowel een juridische als een technische achtergrond en waagt zich nu aan het journalistieke vak.

    PONT | Data & Privacy

Gerelateerd nieuws

Inzichten en succesfactoren van proeftuinen met het Digitaal Meedoen Pakket

Onderzoekers van het Centrum voor Digitale Inclusie hebben onderzocht hoe financieel kwetsbare mensen in Nederland meer kunnen deelnemen aan de digitale samenleving. Door middel van een proeftuin onder 100 deelnemers is gekeken naar toegang tot de digitale wereld voor groepen die geen of beperkt internet hebben. Het onderzoeksrapport laat de noodzaak zien van toegang tot het internet en digitale middelen om aangesloten te blijven bij de maatschappij. De resultaten bieden concrete aanbevelingen voor overheden, beleidsmakers en organisaties om toegang tot de digitale wereld in Nederland verder te verbeteren.

Zorg & Sociaal

Naast kansen ook veel risico’s bij AI op het gebied van corruptie

Artificiële Intelligence (AI) wordt met de dag slimmer, en de afgelopen jaren wordt AI dan ook steeds meer gebruikt. Hiermee groeien echter ook de risico’s op misbruik en corruptie. Experts van Transparency International waarschuwen dat AI op verschillende manieren voor corruptie gebruikt kan worden. Daarnaast zouden sommige eigenschappen van AI corruptie ook nog eens aanlokkelijker maken. Wetgeving om misbruik tegen te gaan en corruptie te voorkomen is dan ook hard nodig.

Overheid laat burger verdwalen in de jungle van gegevensverwerking

Wat kun je als burger doen wanneer de overheid je persoonsgegevens gebruikt en daarmee besluiten neemt waar je het niet mee eens bent? Fatma Çapkurt promoveerde op een onderzoek hiernaar. Burgers moeten verwerking van hun gegevens beter kunnen beoordelen.

'Als we zo doorgaan, gaat de datacenter-sector de duurzaamheidsdoelstelling voor 2030 niet halen'

De groeiende afhankelijkheid van onze samenleving van digitale technologieën zoals AI veroorzaakt een steeds grotere ecologische voetafdruk. Kristina Irion, universitair hoofddocent aan het Instituut voor Informatierecht, onderzoekt de wetgeving en het beleid van de Europese Unie rondom datacenters. In een recent artikel leggen zij en co-auteur Jessica Commins uit waarom, ondanks maatregelen om de energie-efficiëntie en het verbruik van hernieuwbare energie te verhogen, de ongebreidelde groei van de datacentersector het bereiken van de duurzaamheidsdoelstelling voor 2030 in gevaar brengt.