AI

Wereldwijd lopen er momenteel rechtszaken tegen aanbieders en ontwikkelaars van (veelal general purpose) AI-tools die hun systemen hebben getraind met grote hoeveelheden data waarop auteursrechten of databankrechten van derden rusten.

De stichting Human Rights in Finance stond afgelopen woensdag 11 september in de rechtszaal tegenover De Nederlandsche Bank. De toezichthouder moet, volgens de stichting, optreden tegen de vijf grootbanken en garanderen dat de uitbestedingsovereenkomst van banken met Transactiemonitoring Nederland opgezegd wordt. De omstreden samenwerking tussen de overheid, toezichthouders en banken wordt door partijen ontkend, maar uit eigen documenten blijkt dat de samenwerking al in 2020, op initiatief van Ministerie van Financien, is ontstaan. De Rotterdamse rechtbank buigt zich nu over de vraag of de toezichthouder een einde moet maken aan de vermeende gedoogstructuur.

Verantwoord omgaan met algoritmes vraagt om inzicht in de impact op mensenrechten. De Universiteit Utrecht ontwikkelde daarvoor in opdracht van het ministerie van BZK het Impact Assessment Mensenrechten en Algoritmes (IAMA). Samen met het Rijks ICT Gilde voerden ze een pilot uit bij 15 overheidsorganisaties. In het rapport IAMA in actie delen ze de geleerde lessen.

Burgemeester Sebastiaan van ’t Erve van de gemeente Lochem ziet de mogelijkheden die AI en Algoritmes bieden. Maar hij pleit er ook voor om digitale waarden als mensenrechten goed in de gaten te houden. Lochem publiceerde 3 algoritmes in het Algoritmeregister. Transparantie is belangrijk, stelt hij. “Maar de vraag is eigenlijk: hoe brengen we het bewustzijn omhoog?”

De Autoriteit Persoonsgegevens (AP) heeft de afgelopen tijd meerdere meldingen binnengekregen van datalekken doordat medewerkers persoonsgegevens van bijvoorbeeld patiënten of klanten deelden met een chatbot die gebruikmaakt van kunstmatige intelligentie (AI). Door het invoeren van persoonsgegevens in AI-chatbots kunnen de bedrijven die de chatbot aanbieden ongeoorloofd toegang krijgen tot die persoonsgegevens.

Binnenkort treedt de Europese AI-verordening in werking. In het eerdere artikel op DigitaleOverheid.nl kon je lezen wat de AI-verordening voor jouw organisatie gaat betekenen. In dit artikel lees je meer over de praktijken rond Artificiële Intelligentie (AI) die verboden zijn vanaf februari 2025. De verbodsbepalingen kunnen gevolgen hebben voor jouw overheidsorganisatie.

De Britse Information Commissioner Officer (ICO) onderzoekt of een nieuwe AI-feature van Microsoft aan de privacywetgeving voldoet. De toezichthouder heeft navraag gedaan naar de maatregelen die het techbedrijf neemt om de privacy van gebruikers te beschermen.

Op 24 januari 2024 hield Sven Stevenson, programmadirecteur van de Directie Coördinatie Algoritmes (DCA), een toespraak op het Responsible AI Event van KMPG en ICTRecht. Daar sprak hij over verantwoorde kunstmatige intelligentie, algoritmevervorming en het toezicht van de AP.

Op 1 augustus 2024 is de Europese AI-verordening in werking getreden. Deze wet heeft gevolgen voor hoe AI wordt ontwikkeld en gebruikt in de Europese Unie. In dit artikel lees je meer over de verplichtingen die vanaf augustus 2025 gelden voor AI-modellen voor algemene doeleinden. Ook staan we stil bij verschillende transparantieverplichtingen die gaan gelden vanaf augustus 2026. Dit is vooral belangrijk voor overheidsorganisaties.