5 januari 2024

Ai

Algoritme

Op de laatste dagen van het oude jaar kwam er opvallend nieuws naar buiten over het gebruik van ChatGPT door ambtenaren bij gemeenten. Uit een rondgang door actualiteitenprogramma EenVandaag bleek dat 74 procent van hen gebruikmaakt van de AI-tool voor hun werk (1). Dat is saillant, omdat rijksambtenaren wordt afgeraden ermee te werken vanwege allerlei risico’s.

Informatievoorziening voor burgers

Die risico’s zijn tweeledig, aldus een expert data-ethiek tegenover EenVandaag. Enerzijds dat de output van ChatGPT wordt gebruikt voor de informatievoorziening voor burgers. Die output blijkt vaak onvolledig te zijn of gewoonweg niet te kloppen. Je moet die informatie goed controleren, maar door tijdgebrek – ambtenaren hebben veel taken op hun bordje – kan dat er wel eens bij inschieten.

En anderzijds – en dat is even belangrijk – de privacyrisico’s. Even snel een vertrouwelijk overheidsdocument door ChatGPT halen, betekent potentieel ook dat diezelfde gegevens door het AI-trainingsmodel worden afgeroomd en ergens worden opgeslagen. Met alle datalekrisico’s van dien. Demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) stipte het onlangs nog eens aan: we weten eigenlijk niet wat er met de data gebeurt.

Niet te krampachtig doen

Desalniettemin hebben te maken met de realiteit. De ontwikkeling van AI kun je niet tegenhouden; hoogstens proberen te reguleren om het enigszins in toom te houden. We moeten ook niet te krampachtig doen over de opmars van kunstmatige intelligentie. Op veel terreinen kan het meerwaarde hebben, de klantenservice verbeteren en werknemers in staat stellen hun werk beter te doen. Het kan voor werkgevers ook een efficiëntieslag betekenen. Het probleem met AI is wél dat de ontwikkelingen zo razendsnel gaan dat werkgevers ook niet precies weten hoe ermee om te gaan.

In hetzelfde item van EenVandaag blijkt dat 39 procent van de werkgevers niet goed weet hoe hun werknemers een AI-programma als ChatGPT gebruiken. Dat geldt dan ook voor alle andere opkomende AI-tools waarvan werkgevers misschien niet eens op de hoogte zijn. De Vereniging Nederlandse Gemeenten staat op zich niet onwelwillend tegenover het gebruik van generatieve AI, bijvoorbeeld bij het voldoen aan WOO-verzoeken – een tijdrovende klus voor veel ambtenaren - maar wil wel weten welke leveranciers en toepassingen reeds voldoen aan de wet- en regelgeving.

Maar los daarvan moet er ook gewoon een debat op de werkvloer plaatsvinden over het gebruik van generatieve AI, zodat zowel de werknemer als de werkgever inzicht krijgt in allerlei ethische en juridische dilemma’s. Laat 2024 daarom het jaar zijn van een grondig en impactvol AI-debat, zowel op de werkvloer als ook breder maatschappelijk.

  1. https://eenvandaag.avrotros.nl/item/meerderheid-gemeenten-gebruikt-chatgpt-en-bijna-de-helft-weet-niet-wat-hun-medewerkers-ermee-doen/

Gerelateerd nieuws

NJCM waarschuwt dat Europese digitale ‘vereenvoudiging’ kan leiden tot aantasting mensenrechten

Onlangs zijn er voorstellen van de Europese Commissie om Europese digitale regels aan te passen uitgelekt (‘Digital Omnibus’). De Commissie beoogt met dit Omnibus-pakket een administratieve vereenvoudiging door middel van het wijzigen van bestaande wetgeving, waaronder de Algemene Verordening Gegevensbescherming (AVG), ePrivacy-richtlijn en de AI-Act.

Gepseudonimiseerde of geanonimiseerde gegevens? Hof van Justitie van de Europese Unie geeft duidelijkheid

In een eerdere blog schreef ik over de uitspraak van het Gerecht van de Europese Unie waarin opheldering werd gegeven over de vraag wanneer een gegeven als voldoende anoniem mag worden beschouwd en daarmee niet langer een persoonsgegeven is. In een recent arrest van het Hof van Justitie van de Europese Unie ('HvJ EU') wordt deze uitspraak van het Gerecht echter herzien. Het HvJ EU oordeelt opnieuw in de discussie rondom pseudonieme en anonieme persoonsgegevens.

Code, chaos en controle: wat overheden van software kunnen leren

De software pionier Douglas McIlroy stelde: ‘De echte held van programmeren, is degene die negatieve code schrijft’, waar negatieve code wordt opgevat als regelreductie. Met steeds minder code dezelfde functionaliteit blijven leveren. Dat houdt systemen agile en sustainable. Datzelfde principe zou de overheid moeten omarmen: negatieve wetsregels — nieuwe wetten die meer wetsregels elimineren dan ze zelf toevoegen.

Bestuurders en de Cyberbeveiligingswet

In het tweede kwartaal van 2026 treedt naar verwachting de Cyberbeveiligingswet (“Cbw”) in werking. De Cbw heeft tot doel de cyberverplichtingen voor entiteiten in sectoren met maatschappelijk of economisch gewicht te versterken. Ook bevat de Cbw bepalingen over het toezicht, de handhaving en aanvullende verantwoordelijkheden voor bestuurders van zogeheten essentiële of belangrijke entiteiten.

Data & Privacy

Meer nieuws