Digitale Overheid

27 augustus 2024

Algoritme

Digitale inclusie

Discriminatie

Gelijke rechten

Algemeen beeld

Uit de pilots blijkt dat het IAMA vaak een positieve indruk achterlaat, ondanks voorafgaande scepsis. Deelnemers waarderen de verschillende perspectieven (juridisch, ethisch, technisch) en discussies die het opleverde. Het instrument IAMA wordt gezien als een nuttig hulpmiddel voor gespreksvoering over grondrechten, data en ethiek. Maar deelnemers vonden het traject soms ook tijdrovend, sommige vragen minder relevant en hadden moeite om alle benodigde rollen te betrekken.

Belangrijkste aanbevelingen

Het rapport doet ook verschillende aanbevelingen om het IAMA te verbeteren:

  1. Ontwikkel een pre-IAMA of een quickscan. Veel organisaties vinden het lastig vinden om te bepalen wanneer ze een IAMA moeten uitvoeren. Dat is namelijk niet voor ieder algoritme noodzakelijk. Het IAMA is vooral bedoeld voor zogenaamde hoog-risico algoritmes.

  2. Actualiseer het instrument, want de ontwikkelingen gaan snel. Breng het IAMA meer in lijn met de Europese AI-verordening.

  3. Zorg voor goede procesbegeleiding. Om er zoveel mogelijk uit te halen binnen een beperkte tijd is het belangrijk dat je de goede punten aankaart en daarop doorvraagt. De procesbegeleider hoeft niet extern te zijn, maar wel objectief.

  4. De lengte van het IAMA-document kan soms afschrikken. Maar ongeveer driekwart is toelichting. Splits daarom in een volgende versie de handleiding en de vragen in 2 documenten.

    5. Wil je alle aanbevelingen lezen? Een volledig overzicht staat in hoofdstuk 6 van het rapport.

    Meer over het IAMA

Gerelateerd nieuws

AI onder de loep: de dunne lijn tussen innovatie en verboden praktijken

In april 2021 presenteerde de Europese Commissie het wetsvoorstel voor de AI-verordening. De noodzaak van deze regelgeving werd duidelijk door de snelle technologische ontwikkelingen en de risico’s die AI met zich meebrengt voor de veiligheid van producten en de grondrechten van EU-burgers. Toen het voorstel werd geïntroduceerd, kon niemand voorspellen hoe generatieve AI, zoals ChatGPT, in 2023 de wereld zou veranderen. Haast was dus geboden. Nu is haast in het juridische domein iets anders van aard dan in het IT-domein. Ruim drie jaar na indiening van het wetsvoorstel trad de AI-verordening in augustus 2024 in werking. De verboden uit de AI-verordening en de vereisten voor AI-geletterdheid zijn op dit moment al van toepassing, de vereisten voor hoog risico-systemen nog niet.

Nederlandse governance in een Europa dat opnieuw moet leren concurreren

De vraag hoe Nederland de komende decennia welvarend en weerbaar blijft, kan niet los worden gezien van de koers van Europa. De rapporten-Wennink en -Draghi maken duidelijk dat concurrentiekracht geen vanzelfsprekendheid meer is, maar het resultaat van bewuste keuzes over investeringen, schaal en strategische autonomie. Dit essay van Hugo Reumkens (advocaat en partner bij Van Doorne) onderzoekt wat die realiteit betekent voor Nederlandse bestuurders en toezichthouders. Het laat zien hoe governance zelf een instrument van concurrentiekracht kan worden.

Gelijke behandeling bij overuren van deeltijdwerknemers

De beloning van extra gewerkte uren is in veel organisaties vastgelegd in cao’s en personeelsregelingen. Daarbij wordt vaak onderscheid gemaakt tussen meeruren van deeltijdwerknemers en overuren van voltijdwerknemers. Rechtspraak van het Hof van Justitie van de Europese Unie (HvJ EU) laat zien dat dit onderscheid juridisch niet zonder risico is.

Wie durft nog raadslid te worden?

In de aanloop naar de gemeenteraadsverkiezingen is het een goed moment om de staat van de lokale democratie onder de loep te nemen. Wie meldt zich nog aan als kandidaat? Wat vraagt het raadswerk vandaag de dag van mensen? En hoe veilig is het om volksvertegenwoordiger te zijn op lokaal niveau? In gesprek met PONT laat raadsgriffier Dorien van der Kamp haar licht schijnen over de staat van de gemeentepolitiek. Hoewel ze waarschuwt voor zelfcensuur bij raadsleden door het gevolg van agressie en intimidatie, snapt ze dat een groot percentage raadsleden zich deze verkiezingen weer verkiesbaar stelt. "Je ziet bij raadsleden een heilig vuurtje, ze willen echt iets betekenen voor hun directe leefomgeving."
Meer nieuws