Digitale veiligheid grootste zorg bij toenemend gebruik AI

AI, het kan intelligenter

Het AI-Trendonderzoek, uitgevoerd onder 500 respondenten uit diverse sectoren, focust op de vraag hoe organisaties en bedrijven in Nederland AI nu inzetten en wat de toekomstige verwachtingen rondom de toepassing van AI zijn. De auteurs, Onno Ponfoort en Lisa de Graaf van Berenschot, constateren dat bij het verantwoord toepassen van AI nog een wereld te winnen valt: “Het merendeel van de respondenten geeft aan richtlijnen voor verantwoord gebruik van AI te missen, terwijl zij tegelijkertijd wel steeds meer gebruik maken van AI.”

“Het merendeel van de respondenten geeft aan richtlijnen voor verantwoord gebruik van AI te missen, terwijl zij tegelijkertijd wel steeds meer gebruik maken van AI.”

Acceptatie voor AI groeit

Er is een groeiende acceptatie van het gebruik van AI binnen organisaties: meer dan 90% van de respondenten verwacht dat het gebruik van AI in de komende jaren toeneemt. En het merendeel van de respondenten vindt die ontwikkeling ook wenselijk. Daarbij wordt AI voornamelijk ingezet voor administratieve processen, marktonderzoek, Research & Development en innovatie, en productieprocessen.

Onderzoekers Marleen Stikker en Sander van der Waal van Waag Futurelab zien dat er ondanks de groeiende acceptatie ook veel zorgen zijn: ”Er is flink wat werk aan de winkel om vat te krijgen op AI. Mensen hebben terecht zorgen over de controleerbaarheid van de manier waarop bedrijven en overheden AI ontwikkelen en toepassen. Hoe weten we als samenleving of het belang van mens en maatschappij voldoende wordt meegewogen?”

Grootste uitdagingen voor organisaties

Zorgen en uitdagingen zijn er ook binnen de organisaties zelf, blijkt uit het onderzoek. Om AI op een verantwoorde wijze te integreren in de bedrijfsprocessen, zien organisaties nog veel uitdagingen. Digitale veiligheid steekt er met kop en schouders bovenuit: 61% van de respondenten ziet dit als grootste uitdaging.

Het aantal aanbieders van (generatieve) AI-systemen neemt toe, maar daarmee ook de onduidelijkheid over de veiligheid van bedrijfsgegevens. Bovendien verschuift het sentiment in Europa: waar Amerikaanse bedrijven eerst als overwegend betrouwbaar werden gezien, neemt dit vertrouwen steeds meer af. Digitale autonomie wordt een steeds urgenter onderwerp.

Het gebrek aan technische kennis en vaardigheden staat met 46% op de tweede plaats. Zo ervaart 39% van de organisaties het opstellen van richtlijnen bijvoorbeeld als uitdagend. Verder geeft 39% aan dat de AI-volwassenheid binnen de organisatie nog onvoldoende is. Tot slot ziet 37% van de respondenten datakwaliteit en -beheer als een uitdaging. Waar betrouwbare, kwalitatieve en toegankelijke data juist de basis zijn voor goed werkende AI-toepassingen.

Mensen hebben zorgen over de controleerbaarheid van de manier waarop bedrijven en overheden AI ontwikkelen en toepassen.

Gebruik van AI vraagt om visie en beleid

Uit het onderzoek blijkt dat het gebruik van AI het komende jaar toeneemt, maar dat organisaties nog niet altijd niet de nodige maatregelen hebben genomen om dit verantwoord te kunnen doen. Om AI te kunnen integreren in de (bedrijfs)processen moet er in veel organisaties nog een grote slag worden gemaakt. In het onderzoek worden de volgende aanbevelingen gegeven:

• Investeer als organisatie in digitale veiligheid, betrouwbare en transparante modellen en zorg voor voldoende beveiligingsmaatregelen om de risico's van AI te minimaliseren;

• Vergroot en behoud actuele technische kennis en vaardigheden door middel van gerichte training en opleiding;

• Ontwikkel en implementeer richtlijnen voor het verantwoord gebruik van AI. Betrek medewerkers, (lokale) stakeholders en maatschappelijke organisaties bij het opstellen van de richtlijnen;

• Gebruik best practices en leerervaringen van koplopers. Dat is verstandig, met name om zowel praktisch als ethisch verantwoord de juiste keuzes voor de organisatie te maken. Daarbij hoeft het wiel niet opnieuw uitgevonden te worden.

Over het AI-Trendonderzoek 2025

Het AI-Trendonderzoek 2025 is uitgevoerd onder 500 respondenten uit diverse sectoren, waaronder de publieke sector, de industrie en de zakelijke dienstverlening. Het AI-Trendonderzoek 2025 biedt brede inzichten en concrete aanbevelingen rond de huidige stand van zaken, best practices en de toekomstige ontwikkelingen op het gebied van AI binnen Nederlandse organisaties.

De bevindingen en aanbevelingen uit dit onderzoek kunnen organisaties helpen bij het effectief en verantwoord inzetten van AI, met oog voor zowel de kansen als de uitdagingen.