Algoritmes en discriminatie hebben hoofdrol in privacytoezicht

Eerder had de AP na onderzoek naar de toeslagenaffaire geconcludeerd dat de werkwijze van de Belastingdienst bij kinderopvangtoeslag onrechtmatig, discriminerend en in strijd met de privacywetgeving was. Toch heeft de AP de handen nog meer dan vol aan het toezicht op algoritmes en mogelijke discriminatie. 

Vooral omdat in 2023 bleek dat verschillende overheidsorganisaties gewoon doorgingen met het gebruik van ondoordachte algoritmes. Enkele voorbeelden:

• De Dienst Uitvoering Onderwijs (DUO) gebruikte voor het opsporen van fraude met studiebeurzen een algoritme dat zonder enige onderbouwing discriminatoir van aard was. 

• Het UWV gebruikte illegaal een algoritme om fraude met WW-uitkeringen op te sporen.

• Enkele gemeenten gebruikten tegen beter weten in op onrechtmatige wijze de ‘fraudescorekaart’.

• Er zijn vragen over de inzet van gezichtsherkenning door de politie en over het functioneren van het Team Openbare Orde Inlichtingen (TOOI) van de politie.

Aleid Wolfsen, voorzitter AP: “Dit is hoogstwaarschijnlijk nog maar het topje van de ijsberg. De datahonger van de overheid lijkt nog nauwelijks ingedamd. Natuurlijk kunnen algoritmes en kunstmatige intelligentie (AI) ons ook veel goeds opleveren. Zoals efficiëntere werkprocessen voor overheidsorganisaties. Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden.” 

Toezicht op algoritmes en AI

Het toezicht op het gebruik van algoritmes en AI speelt een belangrijke rol bij het beschermen van mensen tegen de risico’s. In Nederland ligt dit toezicht bij verschillende colleges, markttoezichthouders en rijksinspecties. Om het toezicht te versterken, is de AP aangewezen als coördinerend toezichthouder op algoritmes en AI. In januari 2023 is de AP hiermee begonnen. Belangrijke onderdelen van dit nieuwe toezicht zijn het signaleren en analyseren van sector- en domeinoverstijgende risico’s van algoritmes en het bevorderen van de samenwerking tussen de betrokken toezichthouders.

Toezicht op bigtechbedrijven

Samenwerking maakt het toezicht sterker, ook bij het toezicht op bigtechbedrijven. De AP werkt intensief samen met de andere Europese privacytoezichthouders, om samen een vuist te maken en ervoor te zorgen dat privacyschendende techbedrijven de dans niet ontspringen. Zo heeft de Ierse toezichthouder in 2023 een boete van 345 miljoen euro opgelegd aan TikTok. Dit gebeurde nadat de AP onderzoek had gedaan en vervolgens de Ierse privacytoezichthouder had gevraagd om verder onderzoek te doen, nadat TikTok een Europees hoofdkantoor opende in Ierland.

Onafhankelijk vs. ingehuurd

Soms is goede samenwerking ook: taken beleggen waar die thuishoren. Het valt de AP op dat de overheid bij eigen privacyschendingen steeds vaker private onderzoeksbureaus inhuurt. Terwijl de AP als onafhankelijke toezichthouder de aangewezen partij is om dit onderzoek te doen. 

Soms is zo’n privaat onderzoek een vlucht naar voren, soms het gevolg van de beperkte capaciteit van de AP. Maar het leidt niet zelden tot bijvoorbeeld dubbel werk, verspilling van belastinggeld en verwarring over het juiste toetsingskader. Bovendien heeft het tot gevolg dat private bureaus bij zo’n onderzoek soms toegang krijgen tot zeer gevoelige persoonlijke informatie.

Aleid Wolfsen: “Wij waarderen het dan ook zeer dat de parlementaire enquêtecommissie heeft aanbevolen de ‘waakhondfunctie’ van de AP te versterken, door het jaarbudget te verhogen naar minimaal 100 miljoen euro. Dat extra budget zou onder meer betekenen dat wij eindelijk adequaat kunnen gaan reageren op alle klachten, de benodigde onderzoeken kunnen uitvoeren naar privacyschendingen en dat er minder hoeft te worden ‘uitgeweken’ naar onderzoeken in opdracht. Zodat in ons land mensen de bescherming krijgen waar zij recht op hebben – het recht op bescherming van persoonsgegevens is niet voor niets een grondrecht.”