College voor de Rechten van de Mens

14 januari 2025

Ai

Toezicht

Op 1 augustus 2024 is de Europese wet op Artificiële Intelligentie, beter bekend als de AI-verordening, in werking getreden. Deze wet verplicht alle lidstaten van de EU onder andere om toezichthouders te identificeren die erop toezien dat grondrechten worden gerespecteerd en beschermd bij het toepassen van AI. Het College is vastgesteld als grondrechtenautoriteit in zijn hoedanigheid als nationaal instituut voor de rechten van de mens en als gelijke behandelingsorgaan. Daarnaast zijn de Autoriteit Persoonsgegevens, de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling Bestuursrechtspraak Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven vastgesteld als grondrechtenautoriteiten voor het gegevensbeschermingsrecht.

Kansen en risico's AI

Nico Schrijver, interim voorzitter van het College: "AI-toepassingen bieden veel voordelen en kansen. Maar zaken als de kinderopvangtoeslagaffaire tonen aan dat het gebruik van AI en algoritmen ook risico's met zich mee kan brengen voor de mensenrechten. Om die risico’s zoveel mogelijk te beperken en te beheersen, is effectief grondrechtentoezicht noodzakelijk. Het College is goed in staat en graag bereid om die belangrijke taak op zich te nemen, mits aan een aantal voorwaarden wordt voldaan."

Voorwaarden voor effectief grondrechtentoezicht

In een advies aan de betrokken bewindspersonen geeft het College aan wat essentieel is om zijn rol als grondrechtentoezichthouder AI effectief in te kunnen richten. Het gaat samengevat om: 

  • Dat het grondrechtentoezicht niet alleen gericht moet worden op gelijke behandeling en gegevensbescherming, maar op bescherming van alle grondrechten en mensenrechten, inclusief rechtsbescherming, vrijheid van meningsuiting en sociale grondrechten. 

  • Een proactieve aanpak met aandacht voor voorlichting, risicosignalering, onderzoek en advisering; het is niet voldoende te reageren op meldingen van mogelijke schendingen. 

  • Een duidelijke taakverdeling, goede samenwerking en informatie- en kennisuitwisseling tussen alle betrokken partijen. 

  • Voldoende bevoegdheden; het aanvullen van het mandaat van het College met de mogelijkheid tot het onderzoeken van discriminatoir overheidshandelen. 

  • Extra capaciteit en middelen zodat het College de bestaande wettelijke taken onbeperkt kan blijven uitvoeren.

Voorbereiding op rol als grondrechtentoezichthouder

Komende periode wordt het grondrechtentoezicht op AI verder uitgewerkt en ingericht. Het toezicht op zogenaamde hoog-risicosystemen moet vanaf augustus 2026 worden uitgevoerd. Daarvoor moet al gestart worden met kennisopbouw, voorlichting en bewustwording, zodat alle betrokken partijen hier tijdig op zijn voorbereid.   

Zie ook:

Gerelateerd nieuws

Europese waakhond: ‘AI‑systemen bedreigen grondrechten, menselijk toezicht onvoldoende’

De Europese grondrechtenwaakhond FRA (European Union Agency for Fundamental Rights) waarschuwt in een vorige week verschenen rapport dat organisaties slecht zijn voorbereid op het beoordelen en beperken van grondrechtenrisico’s bij het gebruik van hoog‑risico‑AI. Volgens de FRA dreigt daardoor een kloof tussen de ambities van de AI Act en de dagelijkse praktijk bij ontwikkelaars en gebruikers van AI‑systemen in onder meer asiel, onderwijs, werk, politie en sociale zekerheid. Die kloof raakt direct aan de manier waarop mensen en AI in de samenleving samen optrekken: als de menselijke kant van die samenwerking – kennis, reflectie en kritisch vermogen – tekortschiet, verliest AI haar grond voor vertrouwen.

De cruciale rol van een veilige meldcultuur bij cybersecurity

Onlangs publiceerde de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) het Cybersecuritybeeld Nederland (CSBN) 2025. Het rapport schetst een digitale dreigingsomgeving die steeds complexer, diverser en onvoorspelbaarder wordt. Terwijl de dreiging groeit, ligt de verdediging in het versterken van de digitale basishygiëne. Organisatiecultuur speelt hierbij een belangrijke rol in hoe incidenten worden herkend en gemeld. Het CSBN 2025 maakt duidelijk dat digitale veiligheid geen puur technologisch vraagstuk is, maar afhankelijk is van hoe mensen binnen organisaties handelen. Transparency International Nederland (TI-NL) benadrukt daarom de cruciale rol van menselijk gedrag en een veilige meldcultuur bij effectieve cybersecurity.

AI en Auteursrecht: waarom een uitspraak uit München alles verandert

Op 11 november 2025 deed het Landesgericht München uitspraak in een zaak die de juridische wereld én de techsector op scherp zet: GEMA tegen OpenAI (zaaknummer 42 O 14139/24). Het ging om de vraag of het gebruik van auteursrechtelijk beschermde songteksten door generatieve AI-modellen zoals ChatGPT in strijd is met het auteursrecht. Het antwoord van de rechtbank? Ja. En dat is best baanbrekend.

Topbestuurders zien AI als oplossing voor klimaatambities, niet als bedreiging

Topbestuurders zien Kunstmatige Intelligentie (AI) als belangrijk hulpmiddel voor het behalen van klimaatdoelen. Dat blijkt uit een wereldwijd onderzoek van KPMG onder ruim 1.200 CEO’s en bestuursvoorzitters in twintig landen. De meeste ondervraagde topbestuurders (87 procent) geven aan dat AI-toepassingen bijdragen aan het realiseren van net-zero-doelen. Hoewel slechts 30 procent van de organisaties op korte termijn prioriteit geeft aan het verbeteren van het energieverbruik door AI, is 96 procent ervan overtuigd dat er in de toekomst voldoende duurzame energie beschikbaar zal zijn om aan de energievraag van AI te voldoen.
Meer nieuws