"AI moet zorgverleners ondersteunen, niet hun expertise vervangen"

Het gebruikt van AI in de gezondheidszorg ligt onder een vergrootglas. In de media worden regelmatig doorbraken belicht, zoals betere en snellere diagnoses dankzij AI. Maar is het optimisme rondom AI terecht en welke uitdagingen brengt AI met zich mee? Carboni’s onderzoek richt zich op casestudies in de pathologie, op de intensive care en in de acute psychiatrie. Daarbij bekritiseert ze de aanname dat AI het werk in de zorg eenvoudiger of minder arbeidsintensief maakt. "Met mijn onderzoek wil ik nagaan hoe we de kansen die AI biedt kunnen benutten zonder de sociale en ethische gevolgen uit het oog te verliezen", zo legt de onderzoeker uit.

Betrouwbaarheid en besluitvorming

In de pathologie onderzoekt de promovendus de overgang van traditionele microscooppreparaten naar digitale beelden, die de overstap op AI-gebaseerde diagnostiek mogelijk moeten maken. Veel pathologen ervaren digitale beelden echter als minder betrouwbaar en moeilijker te gebruiken, wat onzekerheid in hun werk veroorzaakt. Voor intensive care afdelingen zijn AI-dashboards ontworpen om verpleegkundigen te helpen bij het prioriteren van cruciale taken door realtime data te analyseren. "Hoewel zulke AI-systemen de efficiëntie kunnen vergroten, bestaat het risico dat ze de autonomie van zorgprofessionals ondermijnen. Verpleegkundigen kunnen het gevoel krijgen dat hun kennis en ervaring worden vervangen door een geautomatiseerd systeem," legt ze uit.

"Met mijn onderzoek wil ik nagaan hoe we de kansen die AI biedt kunnen benutten zonder de sociale en ethische gevolgen uit het oog te verliezen"
Chiara Carboni
Promovendus Health Care Governance (HCG)

Zorg gaat zich voegen naar AI

In de psychiatrie worden voorspellende algoritmen gebruikt om het risico op gewelddadig gedrag te beoordelen. Toch zijn zorgverleners vaak sceptisch over deze tools, die complexe en ethisch beladen fenomenen zoals geweld lijken te simplificeren. Carboni stelt dat AI niet alleen nieuwe hulpmiddelen aan de zorg toevoegt, maar ook de organisatie van zorg verandert. Taken worden vaak georganiseerd zodat ze aan de eisen van AI-systemen voldoen, wat in plaats van minder werk juist meer werk kan opleveren. Deze veranderingen kunnen de autonomie van zorgmedewerkers ondermijnen en ethische dilemma’s opwerpen.

AI gaat over meer dan efficiëntie

Carboni vindt het belangrijk dat de focus bij de implementatie van AI niet zozeer ligt op efficiëntie, maar vooral op het verbeteren van de zorg. Om effectief te werken met AI, hebben zorgverleners tijd nodig om te twijfelen en kritisch na te denken over de resultaten. Ze pleit ervoor dat AI zorgverleners moet ondersteunen en niet hun expertise mag vervangen. Daarnaast zou de dataverzameling die nodig is om AI-modellen te trainen (vaak uitgevoerd door verpleegkundigen en technici) meer moeten worden gewaardeerd en erkend. Carboni: "Mijn belangrijkste doel is om een genuanceerd beeld te schetsen van hoe de klinische praktijk verandert, niet alleen door AI zelf, maar ook door de verwachtingen die ontstaan rondom AI."