Op 1 augustus 2024 is de Europese wet op Artificiële Intelligentie, beter bekend als de AI-verordening, in werking getreden. Deze wet verplicht alle lidstaten van de EU onder andere om toezichthouders te identificeren die erop toezien dat grondrechten worden gerespecteerd en beschermd bij het toepassen van AI. Het College is vastgesteld als grondrechtenautoriteit in zijn hoedanigheid als nationaal instituut voor de rechten van de mens en als gelijke behandelingsorgaan. Daarnaast zijn de Autoriteit Persoonsgegevens, de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling Bestuursrechtspraak Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven vastgesteld als grondrechtenautoriteiten voor het gegevensbeschermingsrecht.

Kansen en risico's AI

Nico Schrijver, interim voorzitter van het College: "AI-toepassingen bieden veel voordelen en kansen. Maar zaken als de kinderopvangtoeslagaffaire tonen aan dat het gebruik van AI en algoritmen ook risico's met zich mee kan brengen voor de mensenrechten. Om die risico’s zoveel mogelijk te beperken en te beheersen, is effectief grondrechtentoezicht noodzakelijk. Het College is goed in staat en graag bereid om die belangrijke taak op zich te nemen, mits aan een aantal voorwaarden wordt voldaan."

Voorwaarden voor effectief grondrechtentoezicht

In een advies aan de betrokken bewindspersonen geeft het College aan wat essentieel is om zijn rol als grondrechtentoezichthouder AI effectief in te kunnen richten. Het gaat samengevat om: 

  • Dat het grondrechtentoezicht niet alleen gericht moet worden op gelijke behandeling en gegevensbescherming, maar op bescherming van alle grondrechten en mensenrechten, inclusief rechtsbescherming, vrijheid van meningsuiting en sociale grondrechten. 

  • Een proactieve aanpak met aandacht voor voorlichting, risicosignalering, onderzoek en advisering; het is niet voldoende te reageren op meldingen van mogelijke schendingen. 

  • Een duidelijke taakverdeling, goede samenwerking en informatie- en kennisuitwisseling tussen alle betrokken partijen. 

  • Voldoende bevoegdheden; het aanvullen van het mandaat van het College met de mogelijkheid tot het onderzoeken van discriminatoir overheidshandelen. 

  • Extra capaciteit en middelen zodat het College de bestaande wettelijke taken onbeperkt kan blijven uitvoeren.

Voorbereiding op rol als grondrechtentoezichthouder

Komende periode wordt het grondrechtentoezicht op AI verder uitgewerkt en ingericht. Het toezicht op zogenaamde hoog-risicosystemen moet vanaf augustus 2026 worden uitgevoerd. Daarvoor moet al gestart worden met kennisopbouw, voorlichting en bewustwording, zodat alle betrokken partijen hier tijdig op zijn voorbereid.   

Zie ook:

Gerelateerd nieuws

Verslag Privacy Congres 2025: Jaap-Henk Hoepman kritisch op technische ontwikkelingen CSAM, eIDAS en Europese digitale munt

Op de jaarlijkse Privacy Conferentie afgelopen week sprak dr. Jaap-Henk Hoepman over een aantal nieuwe Europese wetten die gebruikmaken van technische oplossingen om privacy te bewerkstelligen. Het gaat om de eIDAS, CSAM en Digitale Euro verordening. Dr. Hoepman leverde technisch inzicht in de privacytechniek die de nieuwe wetten behelzen en gaf zijn kritische opvatting op de gekozen technieken. Zijn conclusie? “Technische standaarden in wetgeving worden veel te weinig ontwikkeld in samenspraak met academici en NGO’s.“ Dr. Jaap-Henk Hoepman is gastprofessor computerwetenschappen aan de Karlstads universiteit en hoofddocent computerwetenschappen aan de Radboud universiteit.

Data & Privacy

Nieuwe standaard maakt veilige gegevensuitwisseling mogelijk

De Programmeringsraad GDI heeft in december 2024 de Federatieve Service Connectiviteit (FSC) als standaard vastgesteld. Deze standaard zorgt ervoor dat gegevensuitwisseling bij (overheids)organisaties schaalbaar wordt en tegelijkertijd veilig en beheersbaar blijft.

Data & Privacy

Nederlandse Privacy Awards 2025: Innovatie in gegevensbescherming bekroond

Tijdens de Nationale Privacy Conferentie 2025 zijn de winnaars van de Nederlandse Privacy Awards bekendgemaakt. Deze prijzen erkennen organisaties die een vernieuwende en effectieve bijdrage leveren aan het bevorderen van privacy. Dit jaar werden drie projecten bekroond: Watchful in de categorie bewustmaking, Gemeente Rotterdam in samenwerking met Roseman Labs in de categorie toepassing, en de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO) ontving de aanmoedigingsprijs.

Data & Privacy

Digiflyer 2025: overzicht digitale EU-wetgeving

De wet- en regelgeving op het gebied van digitalisering ontwikkelt zich enorm. En ook dit jaar zullen nieuwe wetten van toepassing worden die relevant zijn voor decentrale overheden en hun werkterreinen.

Data & Privacy