Artificiële intelligentie kan helpen bij vragen die mensen hun naasten niet kunnen of willen stellen en drempels verlagen om te praten over psychische klachten. Het biedt oplossingen bij lange wachttijden en beperkte contactmomenten. Maar het mag nooit worden ingezet als vervanging van menselijk contact.
Dat is de belangrijkste conclusie uit het onderzoeksrapport Zorgelijk of kansrijk? Generatieve AI bij psychische klachten, dat MIND op 3 november presenteert. MIND onderzocht bij 771 mensen met psychische klachten óf en in welke mate zij generatieve AI gebruiken om hierover te praten, waarom zij dat doen, hoe zij dit ervaren en welke risico’s en kansen zowel gebruikers als niet-gebruikers zien.
Voordelen
Het overgrote deel van de ondervraagden (93 procent) heeft baat bij kunstmatige intelligentie. De meerderheid geeft wel aan liever over hun klachten te praten met naasten of professionals. Maar AI kan extra steun bieden. De grootste voordelen zijn dat chatbots altijd bereikbaar zijn, laagdrempelig in gebruik en geen oordeel geven. Mensen hebben het gevoel dat ze zo naasten niet hoeven te belasten. Bovenal voorziet kunstmatige intelligentie mensen in een luisterend oor, hulp bij het ordenen, in kaart brengen en begrijpen van gedachten en informatie en adviezen over het omgaan met psychische klachten.
Risico’s
Maar de ondervraagden zien ook de risico’s van AI. Zo blijven antwoorden vaak te algemeen. Soms wordt de context niet begrepen. Chatbots hebben vaak de neiging om mee te gaan in gedachten en emoties in plaats van tegen te spreken als dat nodig is. En er zijn ernstige twijfels over de betrouwbaarheid. Voor sommige gebruikers voelt het praten met generatieve AI onpersoonlijk of vergroot dit juist gevoelens van eenzaamheid. Niet-gebruikers geven veelal de voorkeur aan menselijk contact, zijn bang dat generatieve AI foutieve informatie geeft en maken zich zorgen over hun privacy.
Gebruik
Ruim een derde (38 procent) heeft – al dan niet met succes – AI geprobeerd om te praten over psychische klachten. Het gebruik van chatbots is het hoogst onder jongeren, mensen die op een wachtlijst staan en mensen die zorg ontvangen. De overgrote meerderheid gebruikt de gratis versie van ChatGPT. De meesten gebruiken het als aanvulling. Een kleine groep (13 procent) zet het in als vervanging.
Voorwaarden
In het rapport benadrukt MIND dat AI nooit mag worden ingezet als vervanging van menselijk contact. Daarnaast roept MIND op om ervaringsdeskundigen te betrekken in discussies en toekomstige ontwikkelingen gerelateerd aan het gebruik van generatieve AI bij psychische klachten. Er moeten duidelijke kaders en ethische richtlijnen komen voor het gebruik van AI bij psychische klachten. Daarbij zijn onafhankelijke toetsing en toezicht noodzakelijk om veiligheid, kwaliteit en ethiek te waarborgen. Er moeten strenge eisen worden gesteld aan privacy en dataveiligheid, zo vindt MIND. Ook moeten taalmodellen worden getraind op actuele en betrouwbare informatie. En samen met ervaringsdeskundigen moet voortdurend gewerkt worden aan de verbetering van inhoud en toon. Het is belangrijk dat gebruikers goed worden voorgelicht over de mogelijkheden, beperkingen en risico’s van generatieve AI. Ook onderzoek naar de kwaliteit van verschillende toepassingen, de effecten van het gebruik op korte en lange termijn en de voorwaarden voor veilig gebruik is noodzakelijk.
Lees ook andere artikelen over AI en mentale gezondheid
-----------------------------------------------------------------------------------------
Vind je dit interessant? Misschien is een abonnement op de gratis nieuwsbrief dan iets voor jou! GGZ Totaal verschijnt tweemaal per maand en behandelt onderwerpen over alles wat met de ggz te maken heeft, onafhankelijk en niet vooringenomen.
Abonneren kan direct via het inschrijfformulier, opgeven van je mailadres is voldoende. Of kijk eerst naar de artikelen in de vorige magazines.
