College voor de Rechten van de Mens

14 januari 2025

Ai

Toezicht

Op 1 augustus 2024 is de Europese wet op Artificiële Intelligentie, beter bekend als de AI-verordening, in werking getreden. Deze wet verplicht alle lidstaten van de EU onder andere om toezichthouders te identificeren die erop toezien dat grondrechten worden gerespecteerd en beschermd bij het toepassen van AI. Het College is vastgesteld als grondrechtenautoriteit in zijn hoedanigheid als nationaal instituut voor de rechten van de mens en als gelijke behandelingsorgaan. Daarnaast zijn de Autoriteit Persoonsgegevens, de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling Bestuursrechtspraak Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven vastgesteld als grondrechtenautoriteiten voor het gegevensbeschermingsrecht.

Kansen en risico's AI

Nico Schrijver, interim voorzitter van het College: "AI-toepassingen bieden veel voordelen en kansen. Maar zaken als de kinderopvangtoeslagaffaire tonen aan dat het gebruik van AI en algoritmen ook risico's met zich mee kan brengen voor de mensenrechten. Om die risico’s zoveel mogelijk te beperken en te beheersen, is effectief grondrechtentoezicht noodzakelijk. Het College is goed in staat en graag bereid om die belangrijke taak op zich te nemen, mits aan een aantal voorwaarden wordt voldaan."

Voorwaarden voor effectief grondrechtentoezicht

In een advies aan de betrokken bewindspersonen geeft het College aan wat essentieel is om zijn rol als grondrechtentoezichthouder AI effectief in te kunnen richten. Het gaat samengevat om: 

  • Dat het grondrechtentoezicht niet alleen gericht moet worden op gelijke behandeling en gegevensbescherming, maar op bescherming van alle grondrechten en mensenrechten, inclusief rechtsbescherming, vrijheid van meningsuiting en sociale grondrechten. 

  • Een proactieve aanpak met aandacht voor voorlichting, risicosignalering, onderzoek en advisering; het is niet voldoende te reageren op meldingen van mogelijke schendingen. 

  • Een duidelijke taakverdeling, goede samenwerking en informatie- en kennisuitwisseling tussen alle betrokken partijen. 

  • Voldoende bevoegdheden; het aanvullen van het mandaat van het College met de mogelijkheid tot het onderzoeken van discriminatoir overheidshandelen. 

  • Extra capaciteit en middelen zodat het College de bestaande wettelijke taken onbeperkt kan blijven uitvoeren.

Voorbereiding op rol als grondrechtentoezichthouder

Komende periode wordt het grondrechtentoezicht op AI verder uitgewerkt en ingericht. Het toezicht op zogenaamde hoog-risicosystemen moet vanaf augustus 2026 worden uitgevoerd. Daarvoor moet al gestart worden met kennisopbouw, voorlichting en bewustwording, zodat alle betrokken partijen hier tijdig op zijn voorbereid.   

Zie ook:

Gerelateerd nieuws

Vitale infrastructuur op Amerikaanse servers: Solvinity en de grenzen van Nederlandse digitale autonomie

De mogelijke overname van de Nederlandse IT‑dienstverlener Solvinity door de Amerikaanse gigant Kyndryl zorgt voor grote onrust in de politiek en bij toezichthouders. Tijdens een rondetafelgesprek in de Tweede Kamer op 27 januari 2026 waarschuwden experts en belangenorganisaties dat de continuïteit van vitale digitale processen, waaronder DigiD, in gevaar komt door een te grote afhankelijkheid van buitenlandse spelers. De discussie raakt de kern van de Nederlandse digitale soevereiniteit: wie heeft feitelijk de regie over de infrastructuur waar burgers en overheid dagelijks op vertrouwen?

Cyberwet werkt in de rechtszaal, maar niet in de opsporing

De Wet Computercriminaliteit III (Wet CCIII), die op 1 maart 2019 in werking trad, heeft de mogelijkheden voor de opsporing en vervolging van digitale criminaliteit aanzienlijk verbreed. Uit een omvangrijke evaluatie van het WODC (wetenschappelijk Onderzoek- en Datacentrum) blijkt dat de nieuwe strafbaarstellingen en bevoegdheden in de praktijk veelvuldig worden benut, maar dat beperkte opsporingscapaciteit en internationale componenten de volledige potentie van de wet remmen.

AP: uitvoering anti-witwaswet alleen verantwoord bij aantoonbare effectiviteit en privacybescherming

De Autoriteit Persoonsgegevens (AP) plaatst kritische kanttekeningen bij een wetsvoorstel voor de Nederlandse uitvoering van nieuwe Europese anti-witwaswetregels. Het gaat om een wetsvoorstel om nieuwe Europese regels tegen witwassen en terrorismefinanciering in te voeren in Nederland. Hoewel de wetgeving veel kansen biedt om de bestrijding van financiële criminaliteit te verbeteren, leiden de nieuwe regels ook tot het verzamelen en delen van meer gevoelige persoonsgegevens en tot vergaande uitbreiding van bevoegdheden. Daarom pleit de AP voor een verplichte evaluatie en voldoende waarborgen.

Grondrechten als de 'Rode Draad' bij AI Act

De Europese AI-verordening, die vanaf augustus 2026 grotendeels van kracht wordt, markeert een historisch keerpunt in de regulering van technologie. In een nieuw rapport waarschuwt het College voor de Rechten van de Mens dat de bescherming van grondrechten geen 'invuloefening' is, maar een fundamentele verschuiving vraagt van zowel bedrijven als toezichthouders.
Meer nieuws