Wenn Siri zuhört: Wie sicher sind KI-Chatbots bei psychischen Krisen wirklich?

Überlastete Therapiepraxen treiben immer mehr Menschen zu KI-Chatbots. Doch wie verlässlich sind diese Angebote, wenn es um echte psychische Krisen geht?

Therapieplatzmangel treibt Menschen zur KI

In Deutschland sind Wartezeiten auf einen Therapieplatz lang, gleichzeitig greifen aktuelle Honorarkürzungen das System weiter an. Viele Betroffene suchen deshalb nach Alternativen zur klassischen Psychotherapie. Laut einer neuen Studie wenden sich besonders junge Erwachsene an KI-Chatbots, um mit Belastungen und psychischen Krisen umzugehen.

Hintergrund ist der Mangel an Therapieplätzen, der Menschen zur Selbsthilfe zwingt. Künstliche Intelligenz wirkt dabei niedrigschwellig: rund um die Uhr erreichbar, ohne Wartezimmer, ohne formale Hürden. In Situationen mit Suizidgedanken, Selbstverletzung oder Panikattacken können solche Tools schnell zur ersten Anlaufstelle werden. Die Studie zeigt allerdings auch: Die Nutzung steigt, aber die meisten Systeme verfügen nicht über echte Krisenkompetenz.

Welche Angebote es gibt – und ihre Grenzen

KI-Chatbots begegnen euch heute in vielerlei Form: als Sprachassistent:innen im Apple-Ökosystem, als Webdienste im Browser oder als eigenständige Apps. Viele dieser Angebote sind jedoch nicht speziell für psychische Krisen entwickelt worden, sondern als allgemeine Konversations- oder Produktivitätswerkzeuge.

Gerade bei sensiblen Themen stellt sich die Frage, wie mit Daten umgegangen wird. Einige Dienste setzen auf Cloud-Verarbeitung und übertragen eure Eingaben an Server, andere nutzen vermehrt Schutzmechanismen und betonen Datenschutzfunktionen. Die Studie verweist auf ein zentrales Problem: Obwohl die Nutzung in psychischen Ausnahmesituationen steigt, fehlen häufig klare, verlässliche Strukturen für den Umgang mit akuten Krisen.

Rechtlich ergeben sich Lücken, weil viele Chatbots nicht als medizinische Angebote gelten. Dadurch unterliegen sie nicht denselben Anforderungen wie ärztliche oder psychotherapeutische Behandlungen. Nutzer:innen können oft schwer erkennen, ob hinter einem Angebot ein reguliertes Produkt steckt oder lediglich ein generischer KI-Dienst ohne spezielle Sicherheitsmechanismen für mentale Gesundheit.

Woran ihr seriöse Tools erkennt – und wofür KI nicht gedacht ist

Für Nutzer:innen wird es damit wichtig, Werkzeuge bewusst zu unterscheiden. KI-Chatbots können bei der Strukturierung von Gedanken helfen, Informationen bereitstellen oder dabei unterstützen, Gefühle zu sortieren. Sie ersetzen aber keine Therapie und sind nicht dafür ausgelegt, in akuten Notfällen zu handeln. Die Studie macht deutlich, dass die meisten Systeme keine belastbare Krisenintervention leisten können.

Wer auf KI-Angebote zurückgreift, sollte prüfen, ob das Tool transparent macht, wie Daten verarbeitet werden, ob klare Hinweise auf Grenzen und Risiken enthalten sind und ob im Krisenfall auf echte Hilfsangebote verwiesen wird. Entscheidend ist außerdem, ob das System ausdrücklich darauf hinweist, dass es keine medizinische oder psychotherapeutische Behandlung ersetzen kann.

Im Hintergrund steht auch die Frage, wie Hersteller wie Apple ihre Assistent:innen künftig absichern. On-Device-KI kann Datenschutzvorteile bringen, weil sensible Informationen das Gerät nicht verlassen. Cloud-basierte Lösungen ermöglichen dagegen oft leistungsfähigere Modelle, erfordern aber eine besonders sorgfältige Absicherung. Die Studie zeigt: Solange klare Schutzkonzepte und Krisenstrategien fehlen, bleibt der Einsatz von KI-Chatbots bei psychischen Krisen ein riskanter Notbehelf – und kein Ersatz für echte Hilfe.

Via: www.ad-hoc-news.de

Den Beitrag in unserem Forum kommentieren