overzicht

AI-chatbots missen signalen van bijwerkingen psychiatrische medicatie

artifical intelligence def

Gepubliceerd: 21-05-2025

Uit een recent gepubliceerd onderzoek blijkt dat adviezen over mentale gezondheid, gegeven door artificiële intelligentie chatbots, tekortschieten. Het grote voordeel van deze bots is dat ze altijd beschikbaar zijn, meestal gratis en worden gevoed door gigantische hoeveelheden data, Ze lijken daarmee een handige aanvulling op onze dagelijkse besluitvorming. Maar onderzoek van het Georgia Institute of Technology stelt kritische vragen bij de effectiviteit van AI bij serieuze gezondheidsproblemen, zoals mogelijke bijwerkingen van psychiatrische medicatie.

Volgens de onderzoekers presteren AI-chatbots momenteel ondermaats wanneer het aankomt op het herkennen van bijwerkingen van psychiatrische medicatie. Hun bevindingen werden gepresenteerd tijdens de NAACL 2025-conferentie en gepubliceerd via het arXiv-platform.

Wel empatisch, maar adviezen schieten tekort

Om hun studie uit te voeren, analyseerden de onderzoekers berichten van gebruikers op Reddit - een populair platform waar mensen anoniem (onder andere) hun medische zorgen delen. Deze berichten werden gebruikt om na te gaan hoe goed verschillende AI-modellen, waaronder GPT-4o en medische modellen zoals Med-PaLM, in staat waren om bijwerkingen te herkennen en adequaat advies te geven.

In samenwerking met psychiaters en studenten psychiatrie stelden de onderzoekers een toetsingskader op. Daarbij keken ze naar vier belangrijke aspecten: de toon en empathie van de antwoorden, de leesbaarheid, de adviezen om schade te beperken, en de toepasbaarheid van die adviezen in de praktijk.

De uitkomsten waren duidelijk: hoewel de AI-modellen vaak empathisch overkwamen, schoten ze tekort in het herkennen van complexe bijwerkingen en het geven van praktisch bruikbaar advies.

Levensbelang bij juiste informatie

De onderzoekers waarschuwen dat wanneer AI verkeerde informatie geeft, dat serieuze gevolgen kan hebben. In het geval van geestelijke gezondheidszorg kan onjuist of niet-actiegericht advies het verschil betekenen tussen hulp krijgen of verder in de problemen raken.
Toch zien zej ook potentieel. In regio’s waar de gestelijke gezondheidszorg slecht bereikbaar is, kunnen verbeterde AI-systemen van grote waarde zijn. Chatbots die begrijpelijke, gepersonaliseerde en klinisch verantwoorde antwoorden geven, zouden een belangrijke brug kunnen vormen voor mensen zonder toegang tot reguliere zorg, volgens de onderzoekers.

De toekomst: betrouwbaardere AI

De studie benadrukt het belang van nauwkeurige, toegankelijke en veilige AI-systemen. De onderzoekers hopen dat hun bevindingen zullen bijdragen aan betere modellen en dat beleidsmakers zich meer bewust worden van de risico’s én kansen van AI in de gezondheidszorg. Volgens hen is het ultieme doel om deze technologie zó te verbeteren dat mensen er écht op kunnen vertrouwen, vooral wanneer ze het het hardst nodig hebben.

Mohit Chandra et al: Lived Experience Not Found: LLMs Struggle to Align with Experts on Addressing Adverse Drug Reactions from Psychiatric Medication Use
arXiv:2410.19155

-----------------------------------------------------------------------------------------

Vind je dit interessant? Misschien is een abonnement op de gratis nieuwsbrief dan iets voor jou! GGZ Totaal verschijnt tweemaal per maand en behandelt onderwerpen over alles wat met de ggz te maken heeft, onafhankelijk en niet vooringenomen.

Abonneren kan direct via het inschrijfformulier, opgeven van je mailadres is voldoende. Of kijk eerst naar de artikelen in de vorige magazines.

 

Overig nieuws


03-07-2025 - AZWA-akkoord gaat toch door
03-07-2025 - HIC’s van GGZ Oost Brabant mogelijk naar ziekenhuis Bernhoven
02-07-2025 - Tanja Berger in bestuur NVvP
01-07-2025 - Oproep richting verkiezingen: meer aandacht voor mentale gezondheid
01-07-2025 - Janna Vrijsen hoogleraar Transdiagnostische psychopathologie
30-06-2025 - Wij kijken niet mee
30-06-2025 - Hoe ziet innovatie in de jeugd-ggz er concreet uit?
30-06-2025 - POET: een online emotieregulatietherapie voor jongeren met psychische klachten
30-06-2025 - Bij jongeren veerkracht weven na trauma
30-06-2025 - A NICE DAY
30-06-2025 - Gelukkig gelabeld, van ADHD tot angststoornis: een zoektocht naar mentale gezondheid
30-06-2025 - Wachtlijsten verkort door andere aanpak lichtere problemen?
30-06-2025 - De podcasts
30-06-2025 - De bibliotheek
27-06-2025 - Defensie en ggz werken aan noodplan voor opschaling bij oorlog
27-06-2025 - Eenzaamheid en veerkracht: sleutels tot psychische gezondheid bij jongeren
26-06-2025 - Ruth Peetoom opnieuw voorzitter van de Nederlandse ggz
25-06-2025 - Geen Kamermeerderheid voor euthanasie-moties van NSC
25-06-2025 - Lionarons GGZ neemt failliet PSY-Care over
25-06-2025 - Nieuwe Neurologische Behandelunit voor moeilijk behandelbare psychische aandoeningen
24-06-2025 - Stop op snelle toets IZA
23-06-2025 - NVvP en KNMG: 'Neem moties over euthanasieverzoeken niet aan'
23-06-2025 - Wekelijkse capsule biedt vergelijkbare effectiviteit en betere therapietrouw bij chronisch psychiatrische aandoeningen
20-06-2025 - Strikte medicatietrouw bij schizofrenie halveert risico op verkeersongevallen
19-06-2025 - Douwe Weening directeur-bestuurder van Terwille
18-06-2025 - Nieuwe Toolkit netwerkzorg mentale gezondheid
18-06-2025 - GGZ WNB krijgt interim bestuurder
18-06-2025 - Twintig jaar later: PTSS blijft een onzichtbare strijd voor hulpverleners van nine-eleven
17-06-2025 - Aantal consulten bij de poh-ggz blijft stijgen
17-06-2025 - Ziekteverzuim stijgt meest in ggz
16-06-2025 - De natuur als inspiratie

Laatste nieuws

Tagcloud


  • autisme
  • congres
  • corona
  • depressie
  • gedicht
  • jeugdzorg
  • personalia
  • recensie
  • suicide
  • verslaving

Zoeken in nieuws


Zoek

Contactgegevens

LET OP: GGZ Totaal is geen instelling voor behandeling of begeleiding. Neem daarvoor contact op met de eigen behandelaar of huisarts.
t: -
info@ggztotaal.nl

Deel deze pagina

Neem contact op


Op de hoogte blijven?


Vul uw emailadres in en ontvang gratis ons magazine!

 

 

Disclamer & privacy


Hoe gaan we met jouw gegevens om?

 

Het laatste nieuws


  • AZWA-akkoord gaat toch door

  • HIC’s van GGZ Oost Brabant mogelijk naar ziekenhuis Bernhoven

  • Tanja Berger in bestuur NVvP

  • Oproep richting verkiezingen: meer aandacht voor mentale gezondheid

  • Janna Vrijsen hoogleraar Transdiagnostische psychopathologie

Zoeken


 

Social media


FacebookTwitterLinkedInInstagram

 

Weesperzijde 10-H   |   1091 EA Amsterdam   |  info@ggztotaal.nl   |   Webdesign PEW

Copyright 2025 - GGZ Totaal
Inloggen | Ziber Website | Design by PEW Grafisch ontwerpstudio