IGJ: generatieve AI biedt kansen in de zorg, maar leidt ook tot risico’s

Generatieve Artificial Intelligence (AI) verovert de zorg. Chatbots beantwoorden vragen, artsen gebruiken AI voor samenvattingen van patiëntendossiers en gespreksverslagen. Dit bespaart tijd en maakt communicatie laagdrempeliger. Toch waarschuwt de Inspectie Gezondheidszorg en Jeugd (IGJ) voor risico’s, zo meldt de IGJ.

AI-modellen genereren soms nieuwe informatie op basis van ingevoerde data. Dit kan leiden tot fouten, zoals verkeerde medicatieadviezen of misinterpretaties door artsen. De gevolgen kunnen groot zijn. Zorgaanbieders moeten weten waar de risico’s liggen en AI niet blind vertrouwen, aldus de inspectie.

(Toekomstige) regelgeving

IGJ benadrukt dat AI-toepassingen dezelfde zorgvuldigheid vereisen als andere digitale zorg. Zorgaanbieders moeten het doel van AI-gebruik bepalen, data valideren en resultaten controleren. Zonder deze waarborgen kunnen fouten in de zorg sluipen.

Sommige AI-toepassingen vallen onder de regelgeving voor medische hulpmiddelen (MDR). Dit betekent dat ze moeten voldoen aan strenge eisen. Daarnaast introduceert Europa binnen enkele jaren de AI-verordening, die extra regels stelt aan de ontwikkeling en inzet van AI. Zorginstellingen moeten hiermee rekening houden.

Toezicht op generatieve AI

IGJ houdt toezicht op de invoering van generatieve AI. Met het toetsingskader Digitale Zorg controleert de inspectie of zorgaanbieders, fabrikanten en leveranciers voldoende maatregelen nemen.