16 februari 2024

Ai

Algoritme

Elk jaar brengt de VNG een trendrapport Informatiesamenleving uit, waarin wordt ingegaan op onder meer taalmodellen en de gevolgen van digitalisering voor het welzijn van jonge mensen. Zo ook dit jaar. En omdat de ontwikkelingen in het digitale domein en met name rond AI zo snel gaan, is het altijd interessant om te lezen hoe overheidsorganisaties met diezelfde ontwikkelingen omgaan. En wat de mogelijke impact is van nieuwe techniek op de uitvoering van eigen beleid (1).

Hypegevoeligheid

De VNG waarschuwt voor “hypegevoeligheid” en al te grote opwinding over wat er allemaal kan. Een tool als ChatGPT is aantrekkelijk en fascinerend, maar kent ook grote onvolkomenheden. Dat er veel mogelijk is, wil nog niet zeggen dat de techniek al voldoende volwassen is: “De markt drijft hypes aan rondom AI en algoritmen en belooft gouden bergen, maar wetenschappers en adviesraden zoals de WRR waarschuwen om de beloftes en de inzet van AI kritisch te benaderen.” Techbedrijven spiegelen AI voor als een quick fix voor (maatschappelijke) problemen. Maar dat beeld doet geen recht aan de complexiteit van onze samenleving waarin veel problemen met elkaar samenhangen, aldus de VNG.

Gemeenten en andere overheden mogen met deze technologie aan de slag om maatschappelijke opgaven aan te pakken. Maar wel met een kritische kanttekening: “Er liggen in het gebruik van AI en algoritmen ook nog uitdagingen en ethische vraagstukken op het gebied van transparantie, verantwoording, privacy en procedurele rechten,” valt te lezen in de trendrapportage. De VNG roept namens gemeenten de rijksoverheid en EU op om bij de ontwikkeling wet- en regelgeving rond AI aandacht te hebben voor uitvoerbaarheid, onder andere door uitvoeringstoetsen te doen. Wat daar precies mee wordt bedoeld, wordt overigens niet verder uitgewerkt.

Brede scepsis over AI

De koepelorganisatie heeft wel heel goed door dat er onder veel Nederlanders scepsis bestaat over AI na schandalen als de kinderopvangtoeslagenaffaire en dat die scepsis ook geldt voor AI-toepassingen waarvan (lokale) overheden zich bedienen. Uit onderzoek van adviesbureau KPMG vorig jaar bleek dat het vertrouwen van Nederlanders in AI ten opzichte van het jaar ervoor flink was gedaald. 2). 80 procent van de Nederlanders denkt dat chatdienst ChatGPT risico’s met zich meebrengt.

Informaticus en columnist Ilyaz Nasrullah verwoordt in een column het als volgt: “Juist in Nederland – waar het een tijd lang algoritmeschandalen regende – zijn we ervan doordrongen dat je de risico’s van kunstmatige ‘intelligentie’ er gratis bijkrijgt als deze technologie ondoordacht gebruikt wordt.” (3). In die zin is het goed dat de VNG al in een vroeg stadium op de rem trapt en de lokale overheden op het hart drukt niet al te veel mee te gaan in de AI-hype.

1) https://vng.nl/artikelen/trendanalyse-ai-en-algoritmen

2) https://kpmg.com/nl/nl/home/topics/digital-transformation/artificial-intelligence/algoritme-vertrouwensmonitor.html

3) https://vng.nl/artikelen/column-wie-volwassen-is-omarmt-de-regulering-van-generatieve-ai

Over de auteurs

Gerelateerd nieuws

Nieuwe Wet bevorderen samenwerking en rechtmatige zorg maakt aanpak zorgfraude makkelijker

Binnenkort treedt wetgeving in werking die de gegevensuitwisseling in het kader van de zorgfraude mogelijk maakt; de ‘Wet bevorderen samenwerking en rechtmatige zorg’. Privacyjurist Corrie Ebbers analyseert en duidt de wet.

Data & Privacy

Het IAB oordeel uiteengezet: Is IAB Europe verwerkingsverantwoordelijke? (2/2)

In het arrest van het Hof van Justitie van de Europese Unie (“het Hof”) in de zaak van IAB Europe tegen de Belgische Gegevensbeschermingsautoriteit (“GBA”) stonden twee prejudiciële vragen centraal (1). Over het antwoord van het Hof op de eerste prejudiciële vraag, of een Transparency and Consent String (“TC-string”) een persoonsgegeven is in de zin van de Algemene Verordening Gegevensbescherming (“AVG”), schreven wij een eerste blog . Het antwoord van het Hof op tweede prejudiciële vraag, of een normerende sectororganisatie als (gezamenlijk) verwerkingsverantwoordelijke moet worden gekwalificeerd, staat in dit blog centraal.

Data & Privacy

Denk mee over het ontwerp van de BIO2

Deel je feedback: het ministerie van BZK nodigt informatiebeveiligingsexperts uit om mee te denken over het ontwerp van de BIO2, ook wel Baseline Informatiebeveiliging Overheid. De BIO2 wordt het nieuwe kader voor de overheid rondom informatiebeveiliging.

Data & Privacy

College voor de Rechten van de Mens maakt zich zorgen over algoritmen in het onderwijs: ‘Stel strengere eisen’

In een verkennend onderzoek naar het gebruik van algoritmen in het Nederlands onderwijs zet van het College voor de Rechten van de Mens vraagtekens bij de inzet van bepaalde vormen van onderwijssoftware. In haar aanbevelingen stelt het College dat de overheid moet ingrijpen en landelijke eisen moet stellen aan onderwijstoepassingen, om te voorkomen dat mogelijk discriminatoire algoritmes worden ingezet.

Data & Privacy

Meer nieuws