AI

De toekomst van de EU-wet op kunstmatige intelligentie, ook bekend als de 'AI Act', blijft nog onduidelijk. Het Europese Parlement (EP) en de Raad van Ministers, de twee wetgevingsinstanties van de EU, konden vorige week tijdens een technische onderhandelingsronde geen overeenkomst vinden over een aantal politiek gevoelige aspecten van de wet.

Het is het ‘geesteskind’ van de Britse premier Rishi Sunak: de mondiale AI-top die vorige week plaatsvond op een landgoed in de Britse plaats Bletchey. Niet eerder kwamen zoveel verschillende spelers op het wereldtoneel – techbedrijven en politici – bijeen om te praten over de gevaren én kansen van Artificial Intelligence (AI). In een wereld met toenemende chaos, crises en patstellingen is dialoog over de tech-toekomst belangrijker dan ooit, ziet PONT-eindredacteur Tom Reijner. Maar waar was het maatschappelijk middenveld?

Het einde van het onderhandelingsproces rondom de AI Act van de Europese Unie nadert. De nieuwe verordening heeft tot doel de regulering van AI-systemen als geheel te versterken op basis van een risk-based benadering. Toch lijken bepaalde cybersecurity-aspecten van AI-systemen zowel in de inhoud van het wetsvoorstel als in de institutionele discussies niet veel aandacht te krijgen. Dit geldt met name voor de beveiliging van de componenten waarop AI-systemen zijn gebouwd, zoals AI-modellen. Deze kwestie onderzoekt Giacomo Delinavelli in deze blog.

Artificial Intelligence (AI) heeft het afgelopen jaar grote sprongen gemaakt. Zo heeft ChatGPT de wereld van tekstschrijvers en kennisinstellingen op z’n kop gezet. Peter Werkhoven is als Chief Scientist van TNO dagelijks bezig met de nieuwste ontwikkelingen op het gebied van AI. Hij ziet hoe AI de maatschappij vooruit kan helpen, bijvoorbeeld bij circulariteitsvraagstukken, wat de impact gaat zijn van de Europese AI-act en waar we voor moeten waken als we het hebben over het datagebruik en het trainen van AI.

De Franse privacy-toezichthouder, de “CNIL”, heeft AI-richtsnoeren gepubliceerd met praktische handvatten voor ontwikkelaars van AI-systemen die gebruik maken van persoonsgegevens. De richtsnoeren worden gepubliceerd terwijl in het Europees Parlement intensief gewerkt wordt om de neuzen voor de definitieve AI-Act nog in 2023 dezelfde kant op te krijgen.

In zijn nieuwe juridische sciencefictionverhaal 'Forever' – het eerste deel van een trilogie - schetst Daniel Gervais een wereld die niet al te ver in de toekomst ligt en waarin kunstmatige intelligentie (AI) de ultieme grens van de mens, de dood, heeft getart. Gervais is hoogleraar rechten gespecialiseerd in intellectueel eigendom en het AI recht aan de Vanderbilt University (Nashville, Tennessee) en een Distinguished Fellow aan het Institute for Information Law (IvIR), Amsterdam. Tijdens het lanceringsevent van zijn boek eerder deze maand in Amsterdam, sprak Gervais met PONT | Data & Privacy over de toekomst van de relatie tussen mens en machine en de rol van regulering en sciencefiction.

In the run up to EU AI Act trilogue negotiation, 16 civil society organisations are urging representatives of the Council of the European Union to effectively regulate the use of AI systems by law enforcement, migration control and national security authorities in the legislation.

De Autoriteit Persoonsgegevens (AP) gaat erop toezien dat het UWV herstelmaatregelen neemt richting een grote groep mensen met een uitkering. Het UWV volgde tot begin dit jaar op illegale wijze het online gedrag van mensen met een WW-uitkering. Het UWV heeft onlangs aan de AP toegezegd de zaak te zullen rechtzetten. Bij de uitvoering hiervan houdt de AP nadrukkelijk de vinger aan de pols.

In maart 2023 wilde de Garante per la Protezione dei Dati Personali (GPDP), de Italiaanse privacytoezichthouder, het gebruik van ChatGPT binnen Italiaanse grenzen verbieden. Donderdag kondigde GDPD plannen aan voor een nieuw onderzoek rondom de privacyinbreuken die AI-ontwikkelaars begaan bij het trainen van hun modellen.