Laat 2024 het jaar zijn van een grondig en impactvol AI-debat

Op de laatste dagen van het oude jaar kwam er opvallend nieuws naar buiten over het gebruik van ChatGPT door ambtenaren bij gemeenten. Uit een rondgang door actualiteitenprogramma EenVandaag bleek dat 74 procent van hen gebruikmaakt van de AI-tool voor hun werk (1). Dat is saillant, omdat rijksambtenaren wordt afgeraden ermee te werken vanwege allerlei risico’s.

Informatievoorziening voor burgers

Die risico’s zijn tweeledig, aldus een expert data-ethiek tegenover EenVandaag. Enerzijds dat de output van ChatGPT wordt gebruikt voor de informatievoorziening voor burgers. Die output blijkt vaak onvolledig te zijn of gewoonweg niet te kloppen. Je moet die informatie goed controleren, maar door tijdgebrek – ambtenaren hebben veel taken op hun bordje – kan dat er wel eens bij inschieten.

En anderzijds – en dat is even belangrijk – de privacyrisico’s. Even snel een vertrouwelijk overheidsdocument door ChatGPT halen, betekent potentieel ook dat diezelfde gegevens door het AI-trainingsmodel worden afgeroomd en ergens worden opgeslagen. Met alle datalekrisico’s van dien. Demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) stipte het onlangs nog eens aan: we weten eigenlijk niet wat er met de data gebeurt.

Niet te krampachtig doen

Desalniettemin hebben te maken met de realiteit. De ontwikkeling van AI kun je niet tegenhouden; hoogstens proberen te reguleren om het enigszins in toom te houden. We moeten ook niet te krampachtig doen over de opmars van kunstmatige intelligentie. Op veel terreinen kan het meerwaarde hebben, de klantenservice verbeteren en werknemers in staat stellen hun werk beter te doen. Het kan voor werkgevers ook een efficiëntieslag betekenen. Het probleem met AI is wél dat de ontwikkelingen zo razendsnel gaan dat werkgevers ook niet precies weten hoe ermee om te gaan.

In hetzelfde item van EenVandaag blijkt dat 39 procent van de werkgevers niet goed weet hoe hun werknemers een AI-programma als ChatGPT gebruiken. Dat geldt dan ook voor alle andere opkomende AI-tools waarvan werkgevers misschien niet eens op de hoogte zijn. De Vereniging Nederlandse Gemeenten staat op zich niet onwelwillend tegenover het gebruik van generatieve AI, bijvoorbeeld bij het voldoen aan WOO-verzoeken – een tijdrovende klus voor veel ambtenaren - maar wil wel weten welke leveranciers en toepassingen reeds voldoen aan de wet- en regelgeving.

Maar los daarvan moet er ook gewoon een debat op de werkvloer plaatsvinden over het gebruik van generatieve AI, zodat zowel de werknemer als de werkgever inzicht krijgt in allerlei ethische en juridische dilemma’s. Laat 2024 daarom het jaar zijn van een grondig en impactvol AI-debat, zowel op de werkvloer als ook breder maatschappelijk.

1. https://eenvandaag.avrotros.nl/item/meerderheid-gemeenten-gebruikt-chatgpt-en-bijna-de-helft-weet-niet-wat-hun-medewerkers-ermee-doen/