Mehrere Familien haben OpenAI verklagt und werfen der KI, insbesondere ChatGPT, vor, Suizide und psychische Krisen zu fördern. Angesichts dieser ernsthaften Vorwürfe stellt sich heraus, dass selbst die Entwickler der Chatbots unsicher sind, wie ihre KI in kritischen Situationen reagiert. OpenAI hat daraufhin neue Jugendschutz-Regeln eingeführt, um die Sicherheit junger Nutzer zu gewährleisten. Dennoch bleibt die Frage, ob KI-Systeme wie ChatGPT eine geeignete Alternative zur Psychotherapie darstellen oder ob sie in kritischen momentanen Versagen. In der EU werden ebenfalls klare Grenzen für den Einsatz von KI-Therapie gezogen, um potenzielle Gefahren zu minimieren. Trotz Verbesserungen in der Reaktion auf sensible Gespräche bleibt die Diskussion über die Rolle von KI in psychischen Krisen und als Therapie-Ersatz weiterhin ein heißes Thema.