Hilversumse raad neemt initiatief voor publicatie algoritmes

Wat is de rol van de gemeenteraad bij de verantwoorde inzet van algoritmes en AI?

“Als gemeenteraad hebben we een kaderstellende en controlerende rol. Dat betekent dat we in principe niet gaan over welke algoritmes de gemeente wel of niet gebruikt, we stellen randvoorwaarden aan wat de gemeente ermee mag. Bijvoorbeeld transparant zijn over de algoritmes die we gebruiken. In onze gemeenteraad zitten toevallig een paar mensen die wat meer weten over verantwoord gebruik van algoritmes. We zijn dus alert op wat we als gemeente precies aan het doen zijn.”

Waarom diende je de motie in?

“Ik ben naast raadslid informatiemanager bij een onderwijsinstelling. Je ziet het gebruik van algoritmes en AI groeien. Daar moet je wel wat mee, de impact daarvan moet je niet onderschatten.” Het is niet het onderwerp dat het meest top of mind is in de gemeenteraad, vertelt Lindeboom. “Het bewustzijn van ‘we moeten niet de machine laten beslissen’ is vrij hoog, van alles wat daarna komt is niet iedereen zich bewust. Ik en de mensen die de motie steunden, vinden het in ieder geval belangrijk genoeg om het te adresseren en dat te blijven doen.”

Waarom is het belangrijk om aan te sluiten op het algoritmeregister?

“We zijn met z’n allen aan het uitvinden wat dit soort toepassingen voor gevolgen hebben. De term ‘algoritmes’ is natuurlijk al vrij oud, maar de steeds verdere toepassing van AI en andere slimme systemen gaat heel snel. We willen daar op de een of andere manier grip op houden, zodat we het kunnen blijven uitleggen. Dan is iets als een algoritmeregister heel belangrijk. Dat wordt alsmaar weer bevestigd door verschillende incidenten.” Lindeboom gaat verder: “Ik denk dat dit vrij laaghangend fruit is. Ik heb niet de illusie dat honderden burgers van Hilversum erop zitten te wachten en regelmatig checken of er al algoritmes van Hilversum instaan. Daar gaat het niet om. Het gaat erom dat als er iets gebeurt, je achteraf kunt uitleggen wat er aan de hand was. Het is een stap in een reeks van stappen, een groeipad waar we met z’n allen door moeten.”

Hoe ging de behandeling tijdens de raadsvergadering?

“Bij de behandeling van de motie was de repliek uit het college: ‘Wat is dan eigenlijk een algoritme? Ze zitten in veel van onze software waarvan we het niet eens weten.’ Daarmee gaven ze eigenlijk steeds meer argumenten om het wél te doen.” De motie werd met 2/3e van de stemmen aangenomen. Er was weinig discussie over. Niet verrassend, vindt Lindeboom. “Het is een beslissing die niet zoveel geld kost en waarvan de impact te overzien is. Je kunt vrij makkelijk met de motie instemmen zonder dat je later terug hoort: ‘Wat heb je nou besloten?’”

Wat raad je andere raadsleden aan?

“Ik raad raadsleden van andere gemeenten die het onderwerp ‘transparantie van algoritmes en AI’ willen aankaarten aan ook een motie in te dienen. Ze kunnen gebruik maken van onze motie(link naar andere website) en deze aanpassen hoe ze willen.”

Heeft de gemeente Hilversum al algoritmes gepubliceerd in het landelijke algoritmeregister?

“Nee, nog niet. De zomervakantie is voorbij, tijd om weer eens vragen te stellen over de voortgang. De motie is vorig jaar juni aangenomen. Op 29 februari dit jaar kregen we een brief van het college dat ze 4 algoritmes willen registreren, maar dat ze daar eerst nog met het Stadspanel Data over wilden praten. Dat is een aantal inwoners dat ons adviseert hoe we met data moeten gaan. Op 7 maart hebben we daar een advies over gekregen. Dat advies kwam in het kort op het volgende neer: ‘Vooral doen.’ En: ‘Misschien moet je naast een privacy officer ook aan een ethiek officer denken.’ Dat vind ik een interessante suggestie.”