Erasmus Universtiteit Rotterdam

28 november 2024

Ai in de zorg

Het gebruikt van AI in de gezondheidszorg ligt onder een vergrootglas. In de media worden regelmatig doorbraken belicht, zoals betere en snellere diagnoses dankzij AI. Maar is het optimisme rondom AI terecht en welke uitdagingen brengt AI met zich mee? Carboni’s onderzoek richt zich op casestudies in de pathologie, op de intensive care en in de acute psychiatrie. Daarbij bekritiseert ze de aanname dat AI het werk in de zorg eenvoudiger of minder arbeidsintensief maakt. "Met mijn onderzoek wil ik nagaan hoe we de kansen die AI biedt kunnen benutten zonder de sociale en ethische gevolgen uit het oog te verliezen", zo legt de onderzoeker uit.

Betrouwbaarheid en besluitvorming

In de pathologie onderzoekt de promovendus de overgang van traditionele microscooppreparaten naar digitale beelden, die de overstap op AI-gebaseerde diagnostiek mogelijk moeten maken. Veel pathologen ervaren digitale beelden echter als minder betrouwbaar en moeilijker te gebruiken, wat onzekerheid in hun werk veroorzaakt. Voor intensive care afdelingen zijn AI-dashboards ontworpen om verpleegkundigen te helpen bij het prioriteren van cruciale taken door realtime data te analyseren. "Hoewel zulke AI-systemen de efficiëntie kunnen vergroten, bestaat het risico dat ze de autonomie van zorgprofessionals ondermijnen. Verpleegkundigen kunnen het gevoel krijgen dat hun kennis en ervaring worden vervangen door een geautomatiseerd systeem," legt ze uit.

"Met mijn onderzoek wil ik nagaan hoe we de kansen die AI biedt kunnen benutten zonder de sociale en ethische gevolgen uit het oog te verliezen"
Chiara Carboni
Promovendus Health Care Governance (HCG)

Zorg gaat zich voegen naar AI

In de psychiatrie worden voorspellende algoritmen gebruikt om het risico op gewelddadig gedrag te beoordelen. Toch zijn zorgverleners vaak sceptisch over deze tools, die complexe en ethisch beladen fenomenen zoals geweld lijken te simplificeren. Carboni stelt dat AI niet alleen nieuwe hulpmiddelen aan de zorg toevoegt, maar ook de organisatie van zorg verandert. Taken worden vaak georganiseerd zodat ze aan de eisen van AI-systemen voldoen, wat in plaats van minder werk juist meer werk kan opleveren. Deze veranderingen kunnen de autonomie van zorgmedewerkers ondermijnen en ethische dilemma’s opwerpen.

AI gaat over meer dan efficiëntie

Carboni vindt het belangrijk dat de focus bij de implementatie van AI niet zozeer ligt op efficiëntie, maar vooral op het verbeteren van de zorg. Om effectief te werken met AI, hebben zorgverleners tijd nodig om te twijfelen en kritisch na te denken over de resultaten. Ze pleit ervoor dat AI zorgverleners moet ondersteunen en niet hun expertise mag vervangen. Daarnaast zou de dataverzameling die nodig is om AI-modellen te trainen (vaak uitgevoerd door verpleegkundigen en technici) meer moeten worden gewaardeerd en erkend. Carboni: "Mijn belangrijkste doel is om een genuanceerd beeld te schetsen van hoe de klinische praktijk verandert, niet alleen door AI zelf, maar ook door de verwachtingen die ontstaan rondom AI."

Gerelateerd nieuws

Onderzoek: Investeer in Nederlandse duurzame energie; niet in afkopen in het buitenland

Nederland kan miljardenkosten voorkomen als we de Europese verplichtingen voor hernieuwbare energie en energiebesparing in 2030 nakomen. De EU voerde die verplichtingen in om minder afhankelijk te worden van Rusland, na de inval in Oekraïne. Bij ongewijzigd beleid dreigt Nederland hier niet aan te voldoen. De kosten daarvoor kunnen oplopen tot 2,6 miljard euro. “Zonde van het geld,” zegt NVDE-voorzitter Olof van der Gaag. “Dat geld kun je beter steken in duurzame energie van Nederlandse mensen en bedrijven.”

AP: uitvoering anti-witwaswet alleen verantwoord bij aantoonbare effectiviteit en privacybescherming

De Autoriteit Persoonsgegevens (AP) plaatst kritische kanttekeningen bij een wetsvoorstel voor de Nederlandse uitvoering van nieuwe Europese anti-witwaswetregels. Het gaat om een wetsvoorstel om nieuwe Europese regels tegen witwassen en terrorismefinanciering in te voeren in Nederland. Hoewel de wetgeving veel kansen biedt om de bestrijding van financiële criminaliteit te verbeteren, leiden de nieuwe regels ook tot het verzamelen en delen van meer gevoelige persoonsgegevens en tot vergaande uitbreiding van bevoegdheden. Daarom pleit de AP voor een verplichte evaluatie en voldoende waarborgen.

Nationale ombudsman, Raad van State en Algemene Rekenkamer roepen op tot een realistische overheid

De overheid moet realistische verwachtingen wekken. Zij moet doen wat zij belooft en alleen beloven wat zij kan waarmaken. Anders raken burgers in de knel en loopt Nederland steeds verder vast. Dat schrijven de Nationale ombudsman, de vice-president van de Raad van State en de president van de Algemene Rekenkamer in een gezamenlijke notitie aan de formerende partijen. Op uitnodiging van de informateur hebben Reinier van Zutphen, Thom de Graaf en Pieter Duisenberg hun aanbevelingen vandaag aan de partijleiders van D66, VVD en CDA toegelicht.

Grondrechten als de 'Rode Draad' bij AI Act

De Europese AI-verordening, die vanaf augustus 2026 grotendeels van kracht wordt, markeert een historisch keerpunt in de regulering van technologie. In een nieuw rapport waarschuwt het College voor de Rechten van de Mens dat de bescherming van grondrechten geen 'invuloefening' is, maar een fundamentele verschuiving vraagt van zowel bedrijven als toezichthouders.
Meer nieuws