‘Ethische chatbots vergroten beschikbaarheid zorg, maar vervangen professionals nooit’
Een chatbot die helpt bij stoppen met roken of vragen over seksuele gezondheid? Volgens nieuw onderzoek van Erkan Başar van de Radboud Universiteit kunnen chatbots nuttig zijn, míts zij vooraf input krijgen van medisch professionals. Zonder die professionele structuur handelen chatbots namelijk vanuit taalvoorspelling en niet vanuit veiligheid, empathie of zorg. Dit meldt de Radboud Universiteit.
Steeds meer mensen gebruiken AI voor medische vragen of mentale steun. Maar grote taalmodellen zoals ChatGPT hebben duidelijke beperkingen. “Ze berekenen het meest waarschijnlijke volgende woord, niet wat het beste is voor de persoon”, zegt computerwetenschapper Başar. Zo hebben chatbots geen emotionele diepgang en is er gebrek aan begrip voor de motivaties van een gebruiker. Gezondheidsadviezen van bots kunnen zelfs schadelijk zijn waarschuwt hij.
Başar onderzocht hoe bewezen hulpverleningsmethoden chatbots veiliger kunnen maken. Hij koos voor motiverende gespreksvoering, een aanpak waarbij gebruikers hun eigen motivatie ontdekken in plaats van belerend te worden toegesproken. De onderzoeker bouwde chatscripts die deze techniek volgen. “De chatbot stelt vragen en reageert op een manier die de autonomie respecteert”, legt hij uit. Hierdoor ontstaat ethische begeleiding, wat bij ChatGPT niet altijd een garantie is.
Chatbots niet gebouwd voor deskundig medisch advies
Toen Başar in 2020 begon, waren chatbots vooral simpele vraag-en-antwoordsystemen. Ze waren te beperkt en te repetitief om echt betrokkenheid op te bouwen, terwijl langdurige betrokkenheid juist cruciaal is voor gedragsverandering. De opkomst van grote taalmodellen veranderde dit volledig. Gesprekken werden persoonlijker, minder voorspelbaar en langduriger. Mensen bleven wekenlang terugkomen. Başar waarschuwt hiervoor, want de modellen zijn daar ook voor bedoeld en niet per se voor deskundig en passend advies. Daarom vindt hij algemene AI-systemen ook ongeschikt voor gedragsverandering rond gezondheid. De oplossing ligt volgens hem in gespecialiseerde, ethisch ontworpen chatbots die alleen werken binnen ene medisch kader met vooraf geleverde professioneel gevalideerde informatie.
Professionals blijven onmisbaar
Chatbots zullen echte hulpverleners ook nooit vervangen, stelt de onderzoeker. Menselijke counselors blijven essentieel, vooral om complexe situaties te begrijpen en begeleiding bij te stellen waar nodig. Maar een chatbot kan wel ondersteuning bieden op momenten dat een mens niet beschikbaar is. Bijvoorbeeld ’s nachts, wanneer je echt nú een sigaret wil roken. Volgens Başar draait het uiteindelijk om bereikbaarheid. Chatbots vergroten de beschikbaarheid van zorg, maar professionals blijven onmisbaar voor échte veiligheid en kwaliteit.
