Generatieve AI wordt steeds vaker ingezet in de zorg. Een van de bekendste toepassingen is de ambient AI scribe: een AI-assistent die tijdens een gesprek tussen zorgverlener en patiënt meeluistert en automatisch een conceptverslag maakt. Deze technologie kan administratieve lasten verminderen, maar roept ook belangrijke vragen op. Wanneer is de inzet van generatieve AI eigenlijk veilig en verantwoord?

Die vraag staat centraal in het landelijke onderzoeksproject RIGH:T. Binnen dit consortium werken zorginstellingen, onderzoekers en andere partijen samen aan een validatieframework waarmee zorgorganisaties kunnen beoordelen of en hoe generatieve AI verantwoord kan worden ingezet.

Meer dan alleen kijken of de techniek werkt

Volgens de onderzoekers is het niet voldoende om alleen naar de technische prestaties van AI te kijken. Minstens zo belangrijk is de invloed op zorgverleners, patiënten en de kwaliteit van zorg.

Het nieuwe validatieframework richt zich daarom op drie onderdelen:

• de kwaliteit van de documentatie;
• maatschappelijke en ethische waarden;
• de impact op zorgverleners en patiënten.

Met deze brede aanpak willen de onderzoekers zorgorganisaties helpen om generatieve AI zorgvuldig te beoordelen voordat deze op grote schaal wordt ingezet.

Wat laten de eerste resultaten zien?

Uit de eerste ethische workshops van het project blijkt dat generatieve AI veel kansen biedt. Zo kan een ambient AI scribe zorgverleners ondersteunen bij verslaglegging en mogelijk helpen om de werkdruk te verlagen.

Tegelijkertijd wijzen de onderzoekers op verschillende aandachtspunten. Zo bestaat het risico dat zorgprofessionals bepaalde vaardigheden minder actief gebruiken wanneer AI een deel van het werk overneemt. Ook kan het opnemen van gesprekken invloed hebben op het gedrag van zowel patiënten als zorgverleners.

Daarnaast blijkt dat de verwachte tijdswinst niet altijd vanzelfsprekend is. Hoewel AI een eerste verslag kan genereren, kost het controleren en aanpassen van de output ook tijd. De vraag is daarom niet alleen of de technologie werkt, maar vooral in welke situaties zij daadwerkelijk meerwaarde biedt.

Context is bepalend

Een belangrijke conclusie uit het onderzoek is dat de effecten van generatieve AI sterk afhankelijk zijn van de praktijk waarin de technologie wordt ingezet. Het type consult, de werkprocessen en de organisatiecultuur spelen allemaal een rol.

Daarom is er volgens de onderzoekers geen universele aanpak die voor iedere zorgorganisatie werkt. Juist testen, evalueren en valideren in de eigen praktijk is essentieel om te bepalen of een toepassing geschikt is.

Op weg naar een landelijke standaard

Het RIGH:T-consortium werkt de komende jaren verder aan een nationale evaluatiestandaard voor generatieve AI in de zorg. De eerste versie van het validatieframework wordt in 2027 verwacht.

De tussentijdse resultaten laten zien dat er in de zorgsector behoefte is aan duidelijke handvatten. De ontwikkeling van generatieve AI gaat snel, terwijl veel organisaties nog zoeken naar manieren om de technologie verantwoord in te zetten. Het uiteindelijke doel van het project is om zorgorganisaties te helpen weloverwogen keuzes te maken over de inzet van AI in de dagelijkse praktijk.

Bron: ZonMw, Generatieve AI in de zorg: eerste resultaten uit landelijk onderzoek. Meer informatie is te vinden op de projectpagina van het RIGH:T-consortium.