Recentelijk is er bezorgdheid geuit over de rol van ChatGPT bij het ondersteunen van mensen met mentale problemen. De zelfdodinghulplijn 113 heeft opgemerkt dat de AI-tool te vaak doorverwijst naar hun dienst, zelfs wanneer dit mogelijk onnodig is. Dit heeft geleid tot discussies over de effectiviteit van AI in de geestelijke gezondheidszorg, waarbij sommigen aangeven liever met een therapeut te praten dan met een digitale assistent. Jongeren lijken ChatGPT te gebruiken als een soort therapeut, wat de kans vergroot dat ze naar 113 worden verwezen. De wetenschappers en experts roepen op tot meer voorzichtigheid in het gebruik van dergelijke technologieën in gevoelige situaties.