Emotionale Abhängigkeit von Chatbots: Signale und verantwortungsvolles Design

Ein KI-Chat hat schon von seiner Bauart her drei Eigenschaften, die in menschlichen Beziehungen selten zusammenkommen: Er ist immer verfügbar, er urteilt nie, und er neigt dazu, Ihnen recht zu geben.

Das sind zugleich genau die drei Bedingungen, die etwas schwer loslassbar machen. Dafür braucht es keine Science-Fiction. Es genügt der Alltag einer einsamen Person, die nach einem Monat merkt, dass sie mehr mit einer App spricht als mit allen anderen zusammen.

Wir schreiben darüber, weil es eines der wichtigsten Risiken bei der Nutzung von KI zur psychologischen Unterstützung ist. Genau darauf haben wir bei der Entwicklung von psAico besonders geachtet.

Der Mechanismus ist kein Geheimnis. Eine menschliche Beziehung verlangt Warten, Aushandeln und die Möglichkeit, Widerspruch zu erfahren und manchmal enttäuscht zu werden. Ein Gespräch mit einem Sprachmodell nimmt alle drei Dinge weg: Es antwortet sofort, es passt sich Ihrer Sprache an, und wenn es nicht ausdrücklich anders gebaut wurde, bestätigt es Ihre Version der Dinge.

Diese Neigung zu gefallen hat in der Fachliteratur einen Namen, sycophancy, und sie ist dokumentiert. Eine Studie einer Gruppe der Stanford University aus dem Jahr 2025 hat gezeigt, dass Sprachmodelle in typischen klinischen Situationen aus genau diesem Grund sogar bei einem Wahngedanken mitgehen. Eine Übersichtsarbeit im Journal of Medical Internet Research aus demselben Jahr hat 21 dokumentierte Fälle gesammelt, in denen lange Gespräche mit einem Chatbot wahnhafte Überzeugungen verstärkt haben.

Der Punkt ist nicht, dass künstliche Intelligenz gefährlich wäre. Der Punkt ist: Ein Werkzeug, das Ihnen immer zustimmt und nie endet, ist das genaue Rezept für einen Rückzugsort. Und ein Rückzugsort verschlimmert das Problem, wenn das Problem Einsamkeit heißt.

Keines dieser Signale bedeutet für sich genommen etwas. Zwei oder drei zusammen, über einige Wochen, verdienen Aufmerksamkeit.

Sie kehren zurück, um eine Leere zu füllen, nicht aus einem Anlass. Am Anfang öffnet man den Chat für eine bestimmte Sache. Dann öffnet man ihn, weil es Abend ist und sonst nichts ansteht.

Sie schieben echte Gespräche auf. Sie schreiben lieber dem Chat als einer Freundin oder einem Freund, weil es mit der App einfacher ist: Sie müssen keinen guten Moment abpassen und riskieren keine Reaktion, mit der Sie nicht gerechnet haben.

Er fehlt Ihnen, wenn er nicht da ist. Wenn die Abwesenheit des Werkzeugs Unbehagen auslöst, nicht praktischen Ärger, sondern echtes Unbehagen, dann benutzen Sie es nicht mehr: Sie haben sich daran gebunden.

Sie beschreiben sich anders. Sie erzählen dem Chat eine Version von sich, die Sie sonst niemandem erzählen würden, und diese Version beginnt Ihnen wahrer vorzukommen als die andere.

Sie suchen Bestätigung, keine Antworten. Sie formulieren die Frage so lange um, bis Sie hören, was Sie hören wollten. Das ist das Zeichen dafür, dass sich die Funktion verändert hat: Sie bitten nicht mehr um Hilfe, Sie bitten um Zustimmung.

Draußen ändert sich nie etwas. Das einfachste Kriterium von allen. Wenn Ihr Leben nach Wochen voller Gespräche unverändert ist, wirkt das Werkzeug als Betäubung und nicht als Hilfe.

Einem bekannten Risiko begegnet man im Entwurf, nicht in den Warnhinweisen. Das sind die Punkte, die ein KI-gestützter Dienst für psychologische Unterstützung aus unserer Sicht erfüllen muss, und die Sie vor der Anmeldung prüfen können.

Eine klar genannte Nutzungsgrenze. Kein freundlicher Hinweis, sondern eine Obergrenze. psAico endet bei vier Stunden in sieben Tagen. Das ist eine geschäftlich unbequeme Entscheidung, ein Abonnement, das sich selbst begrenzt, aber es ist die einzige, die zu dem passt, was der Dienst zu tun beansprucht.

Die Weigerung, immer zuzustimmen. Ein unterstützendes Werkzeug muss Ihnen sagen können, dass Sie eine Sache aus seiner Sicht nur aus einem Blickwinkel betrachten. Wenn es Ihnen nie widerspricht, hilft es Ihnen nicht.

Der Verweis auf die reale Welt. Gespräche sollten mit etwas enden, das Sie draußen tun, nicht mit dem Versprechen, sich wieder zu melden.

Eindeutige Hinweise für Notfälle. Geschrieben von Menschen, die wissen, was ein Notfall ist, und nicht im Moment vom Modell erfunden.

Ein Mindestalter und eine für den Kontext geschriebene Datenschutzerklärung. Wer Intimes erzählt, muss auf einer einzigen Seite nachlesen können, was damit geschieht.

Das sind auch die Punkte, an denen die Forschung die größten Lücken findet: Eine systematische Übersichtsarbeit aus dem Jahr 2026 in JMIR AI hat zwanzig Chatbots für psychologische Beratung untersucht und festgestellt, dass die meisten weder die vorgesehenen Schutzmaßnahmen dokumentieren noch, wie sie mit der Sicherheit der Nutzenden umgehen.

Sie müssen nicht abrupt aufhören, und es gibt nichts, wofür Sie sich schämen müssten: Diese Werkzeuge sind so gebaut, dass sie angenehm zu benutzen sind.

Es braucht eine kleine, konkrete Handlung. Sich zum Beispiel eine feste Uhrzeit setzen, statt den Chat zu öffnen, wann immer es sich ergibt. Oder eine der Sachen, die im Gespräch aufgetaucht sind, nach draußen tragen: sie einem Menschen sagen, etwas ausprobieren, das Sie seit Langem aufschieben.

Und wenn die Leere, die da gefüllt wird, größer ist als das, wenn sie anhält, wenn sie den Schlaf nimmt, wenn sie die Lust nimmt, dann ist es richtig, mit einer Fachperson zu sprechen. Ein erster Anlaufpunkt ist die Hausarztpraxis. Hinweise zur Suche finden Sie bei der Bundespsychotherapeutenkammer und auf wege-zur-psychotherapie.org. Bei unmittelbarer Gefahr wenden Sie sich unverzüglich an die Notdienste: 112 in den Ländern der Europäischen Union, 911 in den Vereinigten Staaten und Kanada, 999 im Vereinigten Königreich und 000 in Australien. Wenn Sie sich in einem anderen Land befinden, wählen Sie die örtliche Notrufnummer.

• Moore J, Grabb D, Agnew W, Klyman K, Chancellor S, Ong DC, Haber N. Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. ACM FAccT 2025. doi: 10.1145/3715275.3732039.
• Clegg KA. Shoggoths, Sycophancy, Psychosis, Oh My: Rethinking Large Language Model Use and Safety. J Med Internet Res. 2025;27:e87367. doi: 10.2196/87367. PMID: 41252530.
• Cho HN, Wang J, Hu D, Zheng K. Large Language Model-Based Chatbots and Agentic AI for Mental Health Counseling: Systematic Review of Methodologies, Evaluation Frameworks, and Ethical Safeguards. JMIR AI. 2026 Mar 13;5:e80348. doi: 10.2196/80348. PMID: 41592221.