16 februari 2024

Ai

Algoritme

Elk jaar brengt de VNG een trendrapport Informatiesamenleving uit, waarin wordt ingegaan op onder meer taalmodellen en de gevolgen van digitalisering voor het welzijn van jonge mensen. Zo ook dit jaar. En omdat de ontwikkelingen in het digitale domein en met name rond AI zo snel gaan, is het altijd interessant om te lezen hoe overheidsorganisaties met diezelfde ontwikkelingen omgaan. En wat de mogelijke impact is van nieuwe techniek op de uitvoering van eigen beleid (1).

Hypegevoeligheid

De VNG waarschuwt voor “hypegevoeligheid” en al te grote opwinding over wat er allemaal kan. Een tool als ChatGPT is aantrekkelijk en fascinerend, maar kent ook grote onvolkomenheden. Dat er veel mogelijk is, wil nog niet zeggen dat de techniek al voldoende volwassen is: “De markt drijft hypes aan rondom AI en algoritmen en belooft gouden bergen, maar wetenschappers en adviesraden zoals de WRR waarschuwen om de beloftes en de inzet van AI kritisch te benaderen.” Techbedrijven spiegelen AI voor als een quick fix voor (maatschappelijke) problemen. Maar dat beeld doet geen recht aan de complexiteit van onze samenleving waarin veel problemen met elkaar samenhangen, aldus de VNG.

Gemeenten en andere overheden mogen met deze technologie aan de slag om maatschappelijke opgaven aan te pakken. Maar wel met een kritische kanttekening: “Er liggen in het gebruik van AI en algoritmen ook nog uitdagingen en ethische vraagstukken op het gebied van transparantie, verantwoording, privacy en procedurele rechten,” valt te lezen in de trendrapportage. De VNG roept namens gemeenten de rijksoverheid en EU op om bij de ontwikkeling wet- en regelgeving rond AI aandacht te hebben voor uitvoerbaarheid, onder andere door uitvoeringstoetsen te doen. Wat daar precies mee wordt bedoeld, wordt overigens niet verder uitgewerkt.

Brede scepsis over AI

De koepelorganisatie heeft wel heel goed door dat er onder veel Nederlanders scepsis bestaat over AI na schandalen als de kinderopvangtoeslagenaffaire en dat die scepsis ook geldt voor AI-toepassingen waarvan (lokale) overheden zich bedienen. Uit onderzoek van adviesbureau KPMG vorig jaar bleek dat het vertrouwen van Nederlanders in AI ten opzichte van het jaar ervoor flink was gedaald. 2). 80 procent van de Nederlanders denkt dat chatdienst ChatGPT risico’s met zich meebrengt.

Informaticus en columnist Ilyaz Nasrullah verwoordt in een column het als volgt: “Juist in Nederland – waar het een tijd lang algoritmeschandalen regende – zijn we ervan doordrongen dat je de risico’s van kunstmatige ‘intelligentie’ er gratis bijkrijgt als deze technologie ondoordacht gebruikt wordt.” (3). In die zin is het goed dat de VNG al in een vroeg stadium op de rem trapt en de lokale overheden op het hart drukt niet al te veel mee te gaan in de AI-hype.

1) https://vng.nl/artikelen/trendanalyse-ai-en-algoritmen

2) https://kpmg.com/nl/nl/home/topics/digital-transformation/artificial-intelligence/algoritme-vertrouwensmonitor.html

3) https://vng.nl/artikelen/column-wie-volwassen-is-omarmt-de-regulering-van-generatieve-ai

Over de auteurs

  • Tom Reijner

    Tom Reijner is Freelance journalist, onderzoeker en podcastmaker.

Gerelateerd nieuws

Persoonsgegevens of anonieme gegevens?

In een recente uitspraak van het Hof van Justitie van de Europese Unie (EDPS v GAR) is een belangrijke stap gezet in de discussie over pseudonieme, anonieme en persoonsgegevens. Het Hof bevestigt wat velen in het veld al langer betoogden: gepseudonimiseerde gegevens kunnen onder bepaalde omstandigheden wél persoonsgegevens zijn voor de verstrekker, maar géén persoonsgegevens zijn voor de ontvanger. De kwalificatie van gegevens hangt af van de concrete omstandigheden en de positie van de ontvanger. Deze benadering wordt ook wel aangeduid als de contextuele benadering en speelt een belangrijke rol bij de vraag: is de AVG van toepassing?

Data & Privacy

Ontslaat het pseudonimiseren van gegevens mijn onderneming van de verplichtingen op grond van de AVG?

Het blijft een uitdaging: welke gegevens worden aangemerkt als persoonsgegevens onder de Algemene Verordening Gegevensbescherming (AVG)? Onlangs boog de Rechtbank Midden-Nederland zich over dit vraagstuk, specifiek met betrekking tot de zogenoemde HoNOS+-gegevens. Deze gegevens zeggen iets over de geestelijke en sociale toestand van cliënten. Het oordeel van de rechtbank? Deze gegevens zijn géén persoonsgegevens, waarom niet? Lees hieronder de blog van advocaat bij Elferink & Kortier Advocaten, Tom Boitelle.

Data & Privacy

NIS2: risicoanalyse van eigen organisatie helpt om grip te krijgen op leveranciersmanagement

De Europese NIS2-richtlijn heeft als doel de digitale weerbaarheid van organisaties én hun toeleveranciers te versterken. Dat betekent dat bedrijven niet alleen hun eigen cyberrisico’s moeten begrijpen, maar ook die van hun toeleveranciers. Dit roept bij veel organisaties een belangrijke vraag op: wat betekent dit nu voor ons leveranciersmanagement?

Data & Privacy

Wetsvoorstel: meer bevoegdheden voor burgemeester bij online ordeverstoring

Op 4 juli is een wetsvoorstel in consultatie gebracht dat twee nieuwe bevoegdheden aan de burgemeesters toekent. Hiermee kan de politie onder zijn gezag persoonsgegevens uit publiek toegankelijke bronnen vergaren over de dreiging van een ernstige verstoring van de openbare orde. Het doel van het wetsvoorstel is dat de burgemeester en de politie meer zicht krijgen op ernstige verstoringen van de openbare orde en zij op basis daarvan adequater maatregelen kunnen treffen om deze te voorkomen, beletten of te beëindigen.

Data & Privacy

Meer nieuws