VNG waarschuwt gemeenten terecht voor ‘hypegevoeligheid’ AI

Elk jaar brengt de VNG een trendrapport Informatiesamenleving uit, waarin wordt ingegaan op onder meer taalmodellen en de gevolgen van digitalisering voor het welzijn van jonge mensen. Zo ook dit jaar. En omdat de ontwikkelingen in het digitale domein en met name rond AI zo snel gaan, is het altijd interessant om te lezen hoe overheidsorganisaties met diezelfde ontwikkelingen omgaan. En wat de mogelijke impact is van nieuwe techniek op de uitvoering van eigen beleid (1).

Hypegevoeligheid

De VNG waarschuwt voor “hypegevoeligheid” en al te grote opwinding over wat er allemaal kan. Een tool als ChatGPT is aantrekkelijk en fascinerend, maar kent ook grote onvolkomenheden. Dat er veel mogelijk is, wil nog niet zeggen dat de techniek al voldoende volwassen is: “De markt drijft hypes aan rondom AI en algoritmen en belooft gouden bergen, maar wetenschappers en adviesraden zoals de WRR waarschuwen om de beloftes en de inzet van AI kritisch te benaderen.” Techbedrijven spiegelen AI voor als een quick fix voor (maatschappelijke) problemen. Maar dat beeld doet geen recht aan de complexiteit van onze samenleving waarin veel problemen met elkaar samenhangen, aldus de VNG.

Gemeenten en andere overheden mogen met deze technologie aan de slag om maatschappelijke opgaven aan te pakken. Maar wel met een kritische kanttekening: “Er liggen in het gebruik van AI en algoritmen ook nog uitdagingen en ethische vraagstukken op het gebied van transparantie, verantwoording, privacy en procedurele rechten,” valt te lezen in de trendrapportage. De VNG roept namens gemeenten de rijksoverheid en EU op om bij de ontwikkeling wet- en regelgeving rond AI aandacht te hebben voor uitvoerbaarheid, onder andere door uitvoeringstoetsen te doen. Wat daar precies mee wordt bedoeld, wordt overigens niet verder uitgewerkt.

Brede scepsis over AI

De koepelorganisatie heeft wel heel goed door dat er onder veel Nederlanders scepsis bestaat over AI na schandalen als de kinderopvangtoeslagenaffaire en dat die scepsis ook geldt voor AI-toepassingen waarvan (lokale) overheden zich bedienen. Uit onderzoek van adviesbureau KPMG vorig jaar bleek dat het vertrouwen van Nederlanders in AI ten opzichte van het jaar ervoor flink was gedaald. 2). 80 procent van de Nederlanders denkt dat chatdienst ChatGPT risico’s met zich meebrengt.

Informaticus en columnist Ilyaz Nasrullah verwoordt in een column het als volgt: “Juist in Nederland – waar het een tijd lang algoritmeschandalen regende – zijn we ervan doordrongen dat je de risico’s van kunstmatige ‘intelligentie’ er gratis bijkrijgt als deze technologie ondoordacht gebruikt wordt.” (3). In die zin is het goed dat de VNG al in een vroeg stadium op de rem trapt en de lokale overheden op het hart drukt niet al te veel mee te gaan in de AI-hype.

1) https://vng.nl/artikelen/trendanalyse-ai-en-algoritmen

2) https://kpmg.com/nl/nl/home/topics/digital-transformation/artificial-intelligence/algoritme-vertrouwensmonitor.html

3) https://vng.nl/artikelen/column-wie-volwassen-is-omarmt-de-regulering-van-generatieve-ai