Onderhandelingen rondom AI Act lopen vast

Dat meldt EURACTIV, een nieuwsorganisatie gevestigd in Brussel. Met de AI Act wil de EU een leidende rol in de wereld claimen voor een ethische en ‘human-centered’ inzet van AI. Afgelopen zomer begon de laatste onderhandelingsfase tussen het EP, de Raad en de Commissie. Ondanks meningsverschillen, vooral met betrekking tot het rechtmatige gebruik van gezichtsherkenningstechnologie door handhavingsinstanties, was er optimisme over het afronden van een compromis tegen het einde van het jaar. Tijdens de laatste gesprekken zijn de onderhandelingen echter vastgelopen. Volgens EURACTIV ligt de onenigheid tussen het EP en de Raad vooral bij de regulering van 'foundation models' van AI-systemen.

Foundational models

Vorige maand introduceerde het voorzitterschap van de Raad een compromisvoorstel om AI-modellen voor algemeen gebruik gefaseerd te reguleren. Het oorspronkelijke voorstel van de Europese Commissie schetste voornamelijk een regelgevend kader voor specifieke toepassingen van AI-systemen op basis van het risiconiveau dat ze met zich meebrengen. Gezien de ongekende snelheid waarmee generatieve AI-modellen voor algemeen gebruik, zoals het Amerikaanse ChatGPT, zijn overgenomen in het afgelopen jaar, besloot het EP om ontwikkelaars van deze modellen ook onder de wet te laten vallen. Het Spaanse voorzitterschap van de Europese Raad nam dit voorstel op in een compromistekst die als basis dient voor de huidige onderhandelingen. De nieuwe tekst bevat strengere regels en controles voor machtigere spelers buiten de EU, zoals OpenAI (het bedrijf achter ChatGPT), naast een aantal transparantieverplichtingen die voor alle leveranciers zouden gelden.

In de Raad pleitten Frankrijk, Duitsland en Italië echter tegen enige vorm van regulering voor foundational models. Deze landen vrezen met name dat aanvullende regels het concurrentievermogen van Europese ontwikkelaars zouden ondermijnen ten opzichte van grote buitenlandse bedrijven. Uiteindelijk liepen de discussies zonder concreet uitzicht op een definitieve overeenkomst vast. Brando Benifei, die de EP-delegatie leidt bij de onderhandelingen, sprak donderdag sowieso zijn vertrouwen uit in een goede uitkomst van het proces.

Andere gevoelige punten

Anderzijds zijn foundational models niet het enige controversiële onderwerp in de AI Act. Het EP verklaarde afgelopen zomer in zijn positie dat er geen sprake moet zijn van realtime AI-inzet in de EU voor biometrische identificatie op afstand. De Raad daarentegen eiste dat er een aantal uitzonderingen in de finale tekst zouden moeten komen ten behoeve van handhavingsoperaties. Het EP heeft op dit gebied concessies gedaan in ruil voor een uitgebreidere lijst van verboden toepassingen van AI-systemen. Toch vertelt Benifei dat een definitief compromis niet makkelijk wordt. Hij beweert dat het EP nooit zal instemmen 'tenzij er strenge waarborgen komen tegen alle mogelijke schendingen van grondrechten'. Dit maakt het vinden van een compromis ingewikkelder, hoewel hij benadrukt dat het EP openstaat voor een compromis.

Een ander belangrijk punt waarover nog geen volledige overeenstemming is bereikt, is de oprichting van een AI Bureau. Het EP heeft dit voorstel afgelopen zomer ingebracht om toezicht op de uitvoering van de AI Act op Europees niveau te centraliseren. Benifei zegt hierover dat er, ondanks onduidelijkheden over bepaalde punten zoals het financieringsmodel van het Bureau, al een basisovereenkomst is bereikt.

Deze week zullen de discussies tussen de verschillende delegaties van de EU-instanties doorgaan, met de hoop de definitieve tekst vóór januari af te kunnen ronden.

Bronnen

(1) https://www.euractiv.com/section/artificial-intelligence/news/eus-ai-act-negotiations-hit-the-brakes-over-foundation-models/;

(2) https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html.