In gesprek met Peter Werkhoven (TNO): zo zet je AI in voor de goede zaak

Peter Werkhoven is Chief Scientist bij TNO en professor aan de Universiteit Utrecht. In zijn onderzoek houdt hij zich bezig met mens-machine interactie, waaronder virtuele werelden en kunstmatige intelligentie. Een belangrijk onderwerp in zijn werk is de zinvolle aansturing van autonome intelligente systemen voor maatschappelijke uitdagingen. PONT sprak hem op duurzaamheidsfestival Springtij over het belang van AI in de verschillende transities, zoals verschillende duurzaamheidsopgaven waar Nederland voor staat.

AI en de zoektocht naar nieuwe moleculen

Werkhoven ziet diverse toepassingen van special purpose AI voor duurzaamheidsvraagstukken, ‘’het optimaliseren van energy grids, slimme meters in huis, batterij management, levensduurverlenging, snel laden en zelfrijdende auto’s zijn allemaal voorbeelden van special purpose AI.’’ Maar een recente doorbraak vormt de zogenoemde general purpose AI, zoals ChatGPT. Deze systemen kunnen kennisvragen beantwoorden en content produceren, van vertalingen en juridische adviezen tot beeld, muziek, software en ontwerp ideeën. Dit maakt het volgens Werkhoven ook mogelijk om nieuwe moleculen te ontwerpen. ‘’De eerste keer dat ik hier resultaat van zag was een paar jaar geleden met de ontdekking van een nieuw soort antibiotica. Eigenlijk is het heel simpel, er zijn miljarden moleculen met allerlei chemische eigenschappen en bacteriën met allerlei specifieke kwetsbaarheden, het past niet in een mensenhoofd en -tijd om die veelheid te vergelijken en te kijken of er een eigenschap is die kwaadaardig is voor een bepaald soort bacterie. Maar AI is daar extreem krachtig in, die matcht elke molecuul met de kwetsbaarheid van een bacterie tot die vindt waaraan de bacterie zou kunnen overlijden.’’

Dit is ook toepasbaar voor het zoeken van andere moleculen zoals nieuwe (bio)plastics. ‘’AI kan gebruikt worden om van alle mogelijke nieuwe polymeren, de eigenschappen te voorspellen’’, zegt Werkhoven. ‘’Aan de andere kant kijk je dan welke eigenschappen nodig zijn om iets te maken wat geen nare eigenschappen heeft en volledig recyclebaar is. Dat kan je door AI op de zelfde manier bij elkaar laten brengen om een match te vinden die aan alle eisen voldoet. Dit zijn normaal processen die tientallen jaren duren.’’

AI als onderdeel van beleidsvorming

In general purpose AI zit veel collectieve kennis, waardoor het ingezet kan worden om complexe systemen te overzien. ‘’Het kan in kaart brengen waar de knoppen zitten waar aan gedraaid kan worden, bijvoorbeeld bij klimaatdoelen of circulariteit. Je kan alle scenario’s laten schetsen die zich kunnen voordoen en daarmee kan het een enorme inspiratiebron zijn als onderdeel van beleidsvorming’’, zegt Werkhoven.

Momenteel worden modellen al ingezet voor het maken van beleid. ‘’Daarin kan je nu al modelleren wat het verwachtte effect is van bepaalde innovaties voor de energietransitie. Wat is bijvoorbeeld het verwachte effect op de emissie, is het betaalbaar voor de consumenten en kan het bedrijfsleven er winst mee maken. In modellen zie je alles waarvan we van tevoren hebben kunnen bedenken wat relevant is en zijn oorzakelijke verbanden duidelijk. Bij AI is dat anders, dan bouw je niet een model, maar je vraagt op basis van alles wat het weet scenario’s te schetsen. Het is dus heel erg datagedreven en kent niet altijd de oorzakelijke verbanden.’’

Het nadeel is dus dat de uitkomsten dan niet te herleiden zijn. ‘’AI werkt als een soort netwerk van neuronen, alle data en stukjes kennis zijn er, maar ze staan niet oorzakelijk met elkaar in verband. Het werkt niet met symbolen zoals wij ze gebruiken. AI kan niks uitleggen en zegt dus iets over systeemgedrag, zonder het te begrijpen. Bij AI kan er een incorrecte uitkomst zijn. Je zal het daarom altijd moeten confronteren met de realiteit en moeten valideren met meerdere bronnen.’’

Energieslurpende AI

Het energiegebruik van AI is extreem, is het dan wel geschikt om duurzaamheidsproblemen op te lossen, of gaat het dan voorbij aan het doel? ‘’Als je oplossingen krijgt waarmee andere dingen heel efficiënt gaan en je bijvoorbeeld energie bespaart, dan is het netto rendement minder energieverbruik’’, zegt Werkhoven. ‘’Maar dan moet je niet kijken naar de koker AI en de koker energiesystemen. Je moet over het geheel kijken. Dat maakt het iets ingewikkelder maar wel reëler denk ik. Ondertussen wordt er ook gekeken naar specifieke AI-processoren en algoritmes die veel energie-efficiënter berekeningen maken.’’

AI trainen met normen en waarden

Bij het genereren van antwoorden en content door AI wordt gefilterd op maatschappelijke waarden, bijvoorbeeld in hoeverre de content schadelijk kan zijn voor de gebruiker. Bij de toepassing van AI is het van groot belang om te weten welke waarden dat zijn, maar de grote tech bedrijven die AI ontwikkelen zijn daar niet transparant over en als maatschappij hebben we daar ook geen invloed op. ‘’Ik denk dat de manier waarop AI is getraind open en transparant moet zijn’’, zegt Werkhoven. ‘’Dat het duidelijk is wat de criteria en de waarden zijn die daarbij een rol spelen. Als dit transparant is, dan kan je ook zien dat dat misschien onze waarden niet zijn. Als je zeker wil weten dat dit ethisch verantwoord gebeurt en onafhankelijk wil worden van Big Tech aanbieders moet je zelf modellen gaan trainen. Maar wij hebben minder trainingsdata beschikbaar en de investeringen zijn enorm.’’

Rekenen met versleutelde privacygevoelige data

Werkhoven geeft aan dat kennis over AI in Nederland in relatie tot Amerika en China niet achterloopt, maar dat privacywetgeving de toegang tot trainingsdata in de weg zit. Alle privacygevoelige gegevens om AI te trainen zitten in verschillende databases die niet gecombineerd mogen worden. Maar daar is omheen te werken. Zo ziet Werkhoven multi-party computation als doorbraak. Daarbij kan AI met privacygevoelige data uit verschillende databases getraind worden, zonder dat de privacy in het geding komt en dus conform de privacywetgeving.

Hij legt dit uit aan de hand van een proefonderzoek naar mogelijkheden om in Rotterdam de kans op ziekenhuisopname te voorspellen, afhankelijk van levensstijl. Hierbij moesten privacygevoelige gegevens van het Erasmus MC en van verzekeraar Achmea, gecombineerd worden, iets wat door privacywetgeving niet mogelijk is. ‘’Normaliter ontsleutel je data en ga je daarmee rekenen en trainen, maar dat mag dus niet. Met multi-party computation kan je gegevens in de afzonderlijke databases volledig versleuteld laten en daar toch mee rekenen. Daar komt dan hetzelfde uit als wanneer je met niet versleutelde data had gerekend. Dan respecteer je dus de privacy omdat het niet traceerbaar is en maak je er virtueel één database van, dan heb je op dat gebied dus geen achterstand meer ten opzichte van landen met minder strenge privacywetgeving.’’

De AI-act en een AI raad

Tot slot kijken we samen met Werkhoven nog even naar belangrijke (aankomende) wetgeving. Zo is er een wet in de maak voor de omgang met data voor AI. De Europese AI Act stelt onder andere eisen aan het beleggen van verantwoordelijkheden, de transparantie en aan de governance van de data. Volgens Werkhoven is de wet een goede ontwikkeling, maar zegt deze nog weinig over hoe ethische dilemma’s moeten worden afgewogen bij de inzet van AI, bijvoorbeeld voor cyber security, zelfrijdende auto’s of zorgrobots. ‘’Dit raakt aan filosofie, aan sociologie, aan psychologie, aan technologie en aan wet- en regelgeving’’, zegt Werkhoven. ‘’Al die perspectieven moeten samenkomen, trans-disciplinair. Dit zijn systeemveranderingen met vragen die als samenleving moeten worden beantwoord.’’

Daarom stelt Werkhoven in Nederland een trans-disciplinaire AI-raad voor, waar deze perspectieven samenkomen. ‘’Die raad moet nagaan bij welke soort toepassingen je wel of geen AI inzet en in welke mate het dan ook moreel moet kunnen redeneren, binnen de AI Act die er al is natuurlijk. De AI-raad moet een adviserend orgaan zijn dat aan meerdere ministeries op meerdere toepassingsdomeinen advies kan geven.’’ Zo kan er, met geruster hart, verder gewerkt worden aan AI voor de goede zaak.

Fotograaf: Marleen Annema