Grondrechten als de 'Rode Draad' bij AI Act

Volgens het College vormen grondrechten de absolute basis van de nieuwe wetgeving. Waar eerdere productregels zich vooral richtten op technische veiligheid, introduceert de AI-verordening een expliciete focus op menselijke waarden. AI-systemen kunnen namelijk vrijwel elk aspect van het dagelijks leven beïnvloeden: van het recht op onderwijs en privacy tot het recht op een eerlijk proces en non-discriminatie.

De 'Risicopiramide'

De verordening hanteert een risicogebaseerde aanpak, waarbij systemen met een "onacceptabel risico" simpelweg verboden worden. Dit betreft onder meer:

• Manipulatieve AI: Systemen die menselijk gedrag doelbewust misleiden met schade tot gevolg.

• Sociale scoring: Het beoordelen van burgers op basis van sociaal gedrag of persoonlijke kenmerken.

• Emotieherkenning op school of werk: Het continu surveilleren van leerlingen of werknemers om hun gemoedstoestand te meten.

Voor systemen die als "hoog risico" worden aangemerkt — zoals AI in het onderwijs, de rechtspraak of bij de politie — gelden zeer strikte eisen voor datagovernance en menselijk toezicht.

Geen checklist, maar maatwerk

Een belangrijke conclusie van het College is dat grondrechtenbescherming niet in een simpele checklist te vangen is. "Toetsing moet altijd plaatsvinden in de context van een concreet systeem en de impact op mensen," stelt de publicatie. Dit betekent dat medewerkers die met AI werken 'mensenrechtengeletterd' moeten worden: zij moeten de specifieke risico's in hun eigen werkveld kunnen herkennen en beperken.

Nieuwe rol voor toezichthouders

De handhaving van deze regels brengt een nieuwe uitdaging voor markttoezichthouders, die nu ook grondrechten moeten gaan meewegen in hun oordeel. In Nederland zal het College voor de Rechten van de Mens optreden als een van de centrale grondrechtenautoriteiten om dit proces te ondersteunen en te monitoren.

De boodschap van het College is helder: het succes van de AI-verordening hangt uiteindelijk af van de vaardigheden van de mensen die de systemen ontwikkelen, gebruiken en controleren. Zonder een diepgaand begrip van de menselijke impact blijft de wet slechts een papieren tijger.

Download hier het rapport van het College voor de Rechten van de Mens