Bestuurders, ga in gesprek over de inzet van algoritmes

Hoe ziet u uw rol als burgemeester ten aanzien van de verantwoorde inzet van algoritmes bij uw gemeente?

“Digitalisering is de ruggengraat van de overheid, die ruggengraat wordt steeds belangrijker.” Dat het belangrijk is daar goed voor te zorgen realiseerde hij zich nog meer sinds de gemeente Lochem in 2019 werd gehackt. Goed zorgen voor die digitale ruggengraat gaat steeds meer over principes stelt hij. “Wat begon goed beveiligen en zorgen dat je erbovenop zit, wordt steeds meer een verhaal van compliance: voldoe je aan de regels? Voor mij gaat dit nu nog een laag dieper: het gaat over mensenrechten.”

Hij pleit daarom voor meer bewustzijn over normen en waarden bij digitalisering: “Waar liggen de grenzen en in hoeverre willen we die opzoeken? Dat debat moeten we veel indringender voeren. Ik vind dat we daar als overheid wat toe te voegen hebben.” Als we effectief willen zijn in het beschermen van mensenrechten, zijn er meer kaders nodig, stelt hij. “Hoe doen we dat dan? Dat kan alleen vanuit de centrale overheid, het collectief van gemeentes of eigenlijk het liefst vanuit Europa.”

Welke mogelijkheden ziet u om met AI en algoritmes de dienstverlening naar burgers te verbeteren?

“Nieuwe technologieën als generatieve AI bieden een scala aan mogelijkheden. Ik heb daar voorbeelden van gezien en ben onder de indruk van hoe goed een computer antwoord kan geven op complexe vragen. We kunnen AI gebruiken om complexe regelgeving beter toegankelijk te maken voor inwoners, daar ligt echt een kans.” Er zijn ook grenzen aan de mogelijkheden. “Kan bijvoorbeeld een AI chatbot ook jouw persoonlijke situatie beoordelen en bepaalt die of je recht hebt op een uitkering? Dan wordt het ingewikkeld. Daar horen menselijke controles in, vind ik.”

Wat ziet u als de grootste risico’s?

Zorgelijk aan de ontwikkelingen in AI en algoritmes vindt Van ‘t Erve dat deze gestuwd worden door een aantal grote techbedrijven die handelen vanuit een commercieel belang. “Wij als bestuurders en politici moeten ons daar zorgen over maken: zien we eigenlijk wel wat we aan het doen zijn?” Dan gaat het over de eigen inzet van algoritmes, maar Van ’t Erve kijkt ook breder. “Denk aan iets principieels als Cambridge Analytica (een bedrijf dat illegaal data van Amerikaanse Facebook-gebruikers inzette om hun politieke voorkeuren te beïnvloeden, red.). Als je zoveel data van mensen hebt, is het vrij eenvoudig om de opvattingen van mensen te beïnvloeden. En in wiens handen leg je zo’n gevaarlijk wapen?”

Het begint met bewustwording. “We hebben niet eens door hoe erg het is dat wij al onze digitale sporen overal te grabbel gooien. Dat is echt een discussie die we moeten voeren. Ik snap dat het voor veel mensen een ver-van-hun-bedshow is. Het eindigt vaak in discussies over cookiemuren, terwijl het eigenlijk een tandje dieper zou moeten.”

Afhankelijkheid

Ook de overheid is in de toepassingen van nieuwe technologieën te afhankelijk van buitenlandse (big)techbedrijven, zegt hij. Hij pleit daarom voor meer digitale soevereiniteit op Europees niveau, ook voor AI. “AI is nu een soort toverterm, maar de meeste servers waarop die AI draait staan in China en Amerika. Vinden wij het verstandig dat wij als Nederlanders en als Nederlandse overheid zomaar onze vragen aan een apparaat stellen waarvan we niet weten wat ze aan de achterkant met onze vragen en de antwoorden doen?” Ook dit gaat over mensenrechten: “We hebben er jarenlang aan gebouwd om de Europese normen en waarden sterk neer te zetten. Die principes moeten we strak toepassen en dus ook zeggen: het maakt wel degelijk uit waar iets vandaan komt. De geopolitieke spanningen lopen enorm op. Of het Chinese apparatuur is of Amerikaanse software; andere overheden kijken graag met ons mee.” Digitale soevereiniteit vraagt dat Europa meer regie pakt in AI-ontwikkelingen, bijvoorbeeld in het ontwikkelen van eigen taalmodellen op basis van de Europese normen en waarden.

Meer over de Europese waarden en principes lees je in: Europese digitale rechten en beginselen.

Zijn ‘AI en algoritmes’ onderwerpen waar de Lochemse gemeenteraad mee bezig is? Kunt u daar een voorbeeld van noemen?

“We hebben niet zo lang geleden een memo aan de gemeenteraad gestuurd om ze te informeren over de wetgeving die eraan komt om de mensenrechten en de veiligheid te waarborgen. Dan merk je dat dit voor een gemiddeld raadslid nog best ver op afstand van hun dagelijkse praktijk staat. Ik denk dat dat voor meer politici geldt. Het oogt zo snel technisch, dingen die we nauwelijks begrijpen, terwijl het eigenlijk over hele principiële dingen gaat: over mensenrechten. Ook bij gemeentes.”

Lochem heeft algoritmes gepubliceerd in het Algoritmeregister. Waarom vindt u dat belangrijk?

“Wij zijn ook de samenleving, dus wij bewegen mee met de technische ontwikkelingen. We proberen dat binnen de juiste kaders te doen. Wij hebben nu drie algoritmes in het Algoritmeregister staan, maar het zou me niks verbazen als we er eigenlijk meer hebben.”

“Dit is wel de ontwikkeling waar we als overheid nu samen doorheen moeten gaan. Niet iedereen zal technisch precies begrijpen wat er achter de schermen gebeurt, maar het idee dat wij verantwoording afleggen over de keuzes die we maken en dat niet verstoppen, is cruciaal. Omdat het over mensenrechten gaat. Dat we snappen dat we een machtig digitaal instrument hebben, dat ieder mens kan raken. Dat we nieuwe technologie op een zorgvuldige en zuivere manier hanteren en bereid zijn om daar verantwoording over af te leggen. Dat is die beweging die we moeten maken.”

Wat is uw belangrijkste les voor andere burgemeesters?

Transparantie is belangrijk, maar er is meer nodig. “Ik hoop dat we kunnen zoeken naar: hoe brengen we dat bewustzijn omhoog? Want het lijkt soms alsof registratie in het Algoritmeregister een soort technische waarborg is, maar het gaat eigenlijk over principiëlere punten.”

Het gesprek over de principes achter de inzet van algoritmes – en breder van digitalisering – wordt op bestuurlijk niveau nog te weinig gevoerd, ziet hij. “Intern hebben we die gesprekken binnen de gemeente wel, maar het staat nog niet hoog op de bestuurlijke agenda. Het komt nog weinig op collegevergaderingen op tafel, laat staan in regio-overleg, in een veiligheidsregio of hoger binnen de VNG. Dat is iets wat we gezamenlijk op moeten pakken, want we zitten in een cruciale fase van de digitalisering van Nederland.”