Kun je gezondheidsadvies van chatbots vertrouwen?

Steeds meer mensen maken gebruik van kunstmatige intelligentie (AI) voor ondersteuning in hun dagelijks leven en carrière. ChatGPT is een van de populairste en bekendste AI-tools. Het geeft gratis redelijke en relevante antwoorden op elke vraag.

Er is veel potentieel voor generatieve AI-tools om mensen te helpen meer inzicht te krijgen in hun gezondheid. Maar het antwoord is niet altijd juist. Enkel vertrouwen op ChatGPT voor gezondheidsadvies kan zeer riskant zijn en onnodige bezorgdheid veroorzaken.

Generatieve AI is een relatief nieuwe en voortdurend veranderende technologie. Het nieuwste onderzoek levert de eerste Australische gegevens op over wie ChatGPT gebruikt om gezondheidsvragen te beantwoorden en waarom.

De resultaten kunnen mensen helpen leren hoe ze deze nieuwe technologie voor de gezondheidszorg kunnen gebruiken en de nieuwe vaardigheden die nodig zijn om deze veilig te gebruiken – met andere woorden, om ‘ AI-gezondheidsvaardigheden ’ op te bouwen.

Wie gebruikt ChatGPT om vragen te stellen over de gezondheid? Wat vragen ze?

In juni 2024 werd in het onderzoek aan ruim 2000 Australiërs gevraagd of ze ChatGPT gebruikten om vragen over hun gezondheid te beantwoorden. Eén op de tien mensen (9,9%) stelde ChatGPT in de eerste helft van 2024 een gezondheidsvraag. Gemiddeld gaven ze aan dat ze 'redelijk' vertrouwen hadden in ChatGPT (3,1 van de 5).

Uit het onderzoek bleek ook dat het aantal mensen dat ChatGPT gebruikte om vragen te stellen over de gezondheid, hoger lag onder mensen met een lage gezondheidsvaardigheden, mensen die geboren waren in een land waar geen Engels werd gesproken of mensen die thuis een andere taal spraken.

Dit laat zien dat ChatGPT mensen in Australië kan ondersteunen die moeite hebben met het verkrijgen van toegang tot traditionele vormen van gezondheidsinformatie.

De meest voorkomende vragen die mensen aan ChatGPT stellen, zijn gerelateerd aan:

• Leer meer over de gezondheidsstatus (48%)
• De betekenis van symptomen begrijpen (37%)
• Vraag naar handelingen (36%) of begrijp medische terminologie (35%).

Meer dan de helft (61%) stelde minimaal één vraag waarin om advies uit een klinisch onderzoek werd gevraagd. Dit zijn vragen van het 'riskantere' type. Door ChatGPT te vragen wat uw symptomen betekenen, krijgt u misschien een globaal beeld. Het is echter geen vervanging voor klinisch advies.

Mensen die geboren zijn in een land waar ze geen Engels spreken of die thuis een andere taal spreken, stellen dit soort vragen vaker.

Waarom is dit belangrijk?

Het aantal mensen dat AI gebruikt voor gezondheidsinformatie zal waarschijnlijk toenemen. Uit het onderzoek blijkt dat 39% van de mensen die ChatGPT nog niet voor gezondheidsinformatie hebben gebruikt, overwegen om dit in de komende zes maanden te gaan doen.

Het totale aantal mensen dat generatieve AI-tools voor gezondheidsinformatie gebruikt, ligt nog hoger als je andere tools als Google Gemini, Microsoft Copilot en Meta AI meerekent.

Opvallend genoeg ontdekte het team van wetenschappers in deze studie dat mensen uit cultureel en taalkundig diverse gemeenschappen mogelijk eerder geneigd zijn ChatGPT te gebruiken voor gezondheidsinformatie.

Als ChatGPT gezondheidsinformatie moet vertalen, voegt dat nog een laag van complexiteit toe. Generatieve AI-tools zijn vaak minder nauwkeurig in andere talen.

We moeten investeren in diensten (zowel menselijk als machinaal) om ervoor te zorgen dat het spreken van een andere taal geen belemmering vormt voor kwalitatief hoogwaardige gezondheidsinformatie.

Hoe ziet 'AI-gezondheidskennis' eruit?

Kunstmatige intelligentie (AI) brengt zowel kansen als risico's met zich mee voor degenen die het gebruiken om gezondheidsinformatie te vinden.

Enerzijds is deze technologie aantrekkelijk voor mensen die toch al te maken hebben met grote belemmeringen als het gaat om toegang tot gezondheidszorg en gezondheidsinformatie. Een van de belangrijkste voordelen is dat het direct en eenvoudig te begrijpen gezondheidsinformatie biedt.

Uit een recent overzicht van onderzoeken is gebleken dat generatieve AI-hulpmiddelen steeds vaker algemene vragen over gezondheid in begrijpelijke taal kunnen beantwoorden. Bij complexere gezondheidsonderwerpen zijn ze echter minder nauwkeurig.

Dit heeft duidelijke voordelen, omdat de meeste gezondheidsinformatie op een niveau is geschreven dat te complex is voor de algemene bevolking, zelfs tijdens een pandemie.

Aan de andere kant maken mensen steeds vaker gebruik van multifunctionele AI-hulpmiddelen voor gezondheidsadvies. Dit is riskanter bij vragen die een klinisch onderzoek en een dieper inzicht in de patiënt vereisen.

Er zijn veel casestudies die de gevaren aantonen van het gebruik van algemene AI-tools om te beslissen of je wel of niet naar het ziekenhuis moet.

We moeten mensen helpen goed na te denken over het soort vragen dat ze aan AI-tools stellen om advies en ze in contact brengen met de juiste diensten die riskante gezondheidsvragen kunnen beantwoorden.

Dit artikel is vertaald en samengevat uit The Conversation onder een Creative Commons licentie.