AI Officer voor de Publieke Sector

Docent: Jolanda ter Maten
Ochtend: Basisprincipes van AI

• Wat is AI? Begrippen en definities.
• Toepassingen van AI in de publieke sector

Middag: AI-systemen ontleden

• Data als basis voor AI: kwaliteit en bias.
• Het trainen van modellen: wat gebeurt er in een AI-systeem?
• Beperkingen en risico’s van AI-systemen.

Interactieve sessie:

• Workshop: Analyse van een fictieve AI-toepassing in de publieke sector.

Docent: Jolanda ter Maten

De ochtend richt zich op het begrijpen van generatieve AI, inclusief de werking, toepassingen en de impact op data en privacy. Je verkent de ethische vraagstukken die ontstaan bij het gebruik van deze technologieën, zoals transparantie, bias en verantwoordelijkheid.

In de middag volgt een praktische workshop, waarin je een case study onderzoekt over ethische dilemma’s bij het gebruik van AI in publieke diensten. Zo krijg je de kans om oplossingsrichtingen te bedenken voor verantwoord gebruik van AI in jouw eigen werkveld.

Docent: Ramona ten Dam

Ochtend: AI en cybersecurity

• Risico’s van AI: manipulatie, adversarial attacks, en datalekken.
• Hoe AI wordt gebruikt in cyberaanvallen én verdediging.

Middag: Beveiliging van AI-systemen

• Bescherming van modellen en data.
• Best practices voor implementatie van veilige AI-systemen.

Interactieve sessie:

Simulatie: Identificeer en analyseer kwetsbaarheden in een AI-systeem.

Docenten: Jantien Hovingh en Paul Dam

Geschiedenis/tijdlijn 

• Ontwikkeling vanuit grondrechten en ethiek (robuust, ethisch en wettig)
• Transparantie (veilig, begrijpelijk etc)
• Noodzaak regulering EU

Ontwikkeling wettelijk kader
– Guidelines HLEG  
– Vijf hoofdstromen van regulering:

• data,
• cyber,
• platforms,
• content,
• AI (AI Act, Richtlijn aansprakelijkheid AI, Productaansprakelijkheid AI)

Overzicht van wetten die het gebruik van AI reguleren

• raakvlakken met de AVG
• inzicht in (product) aansprakelijkheidswetgeving
• overig: IP, DORA, NIST etc.

AI  Act: waarom?

Dag 5: Juridisch kader voor risicobeheersing, governance en AI-compliance
Docenten: Jantien Hovingh en Paul Dam

Rol- en taakverdeling in de organisatie (privacy officer, FG, AI compliance officer etc.)

Betrouwbare AI – verantwoorde inzet (structuur van de AI act: opzet, wat, wie, wanneer, hoe): structuur AI act / open normen / risicogebaseerd

Wat valt er onder het begrip ‘AI-systeem’ (in de zin van artikel 3.1 AI Act)?

Welke rol heb je ten aanzien van het AI-systeem (in de zin van overweging ?)

Risicoclassificatie van AI-systemen & governance

Risicoclassificatie hoog, dan meer compliance-vereisten en aantoonbaarheid

Transparantie

Toetsing op borging (grond)rechten (privacy)

Data inzet Robuust en veilig systeem

Menselijk toezicht

Conformiteits eisen

Documentatie (modelcard) Inrichting monitoring gedurende de gehele levenscyclus en beheersing risico’s  

Transparantie moet altijd (ook bij laag-risico AI-systemen)

Hoe uitvoering geven aan artikel 29a (toetsing met IAMA of ander kader, stakeholders, CE, model card)

Risico’s in de levenscyclus van AI-systemen (beheersen van risico’s bij de ontwikkeling en implementatie van AI-systemen en na implementatie)

Casussen 

• Camera met gezichtsherkenning bij toegang coffeeshop
• Proctoring
• Automatisch toekennen van vergunningen in het fysieke domein en de bezwaarschriftenafhandeling
• Beoordeling Wmo-aanvragen
• Risicosignalen genereren om fraude met de Participatiewet tegen te gaan

Aan het einde van de cursus ontvangen deelnemers een certificaat van deelname. Elke cursusdag wordt afgesloten met een toets.