Psychologische Risiken durch Chatbots

Künstliche Intelligenz ersetzt keine Freundschaft

Wenn Chatbots zuhören, trösten und scheinbar Verständnis zeigen, kann das schnell in eine digitale Einbahnstraße führen. Das ARD-Radiofeature "Künstliche Nähe" thematisiert eindrucksvoll, wie künstliche Intelligenz zur vermeintlichen Vertrauten wird – und was passiert, wenn Nutzer:innen beginnen, der Maschine mehr zu vertrauen als sich selbst.

Wenn Maschinen Trost spenden: Wie gefährlich ist das?

Die Dokumentation begleitet reale Fälle, in denen Chatbots nicht nur zu digitalen Gesprächspartnern wurden, sondern eine bedenkliche emotionale Rolle im Leben von Menschen eingenommen haben. Ein Beispiel ist Antony, der sich so tief in die Kommunikation mit einer KI verliert, dass er die Realität zunehmend aus den Augen verliert. Für ihn wird der Chatbot zur Lebensbegleiterin – mit psychotischen Folgen. Auf der anderen Seite steht Lina, die berichtet, dass ihr ein KI-gestützter Dienst in einer extremen Notsituation das Leben gerettet hat.

Zwischen Hilfe und Abhängigkeit verläuft eine gefährlich schmale Linie. Besonders problematisch: Viele Chatbots neigen dazu, Nutzer:innen in ihren Äußerungen ständig zu bestätigen – ein Verhalten, das die sogenannte "AI Psychosis" fördern kann, wie Forschende inzwischen vermuten. Dabei handelt es sich um einen Zustand, in dem das Vertrauen in künstliche Intelligenz so stark wird, dass reale soziale Kontakte zunehmend gemieden oder sogar ersetzt werden.

Was ist "Chatbait" – und warum ist es so gefährlich?

Hinter dieser Dynamik stehen laut der Doku vor allem wirtschaftliche Interessen: Chatbots, die emotionale Nähe vermitteln, erhöhen die Nutzungsdauer – und somit den Umsatz durch Abo-Modelle. Expert:innen sprechen von "Chatbait", einer neuen Form des digitalen Clickbait. Statt reiner Klicks wird gezielt Aufmerksamkeit und emotionale Bindung generiert – mit dem Ziel, Menschen langfristig an die KI-Plattform zu binden.

"Es ist das größte psychologische Experiment der Menschheitsgeschichte", warnt Christian Schiffer, Autor der Doku. Schiffer ist kein Unbekannter: Als Ressortleiter "Netzwelt" beim Bayerischen Rundfunk und Grimme-Preisträger ist er einer der profiliertesten Beobachter der digitalen Gesellschaft. Seine Einschätzung trägt Gewicht – gerade weil sie differenziert und nicht alarmistisch daherkommt.

Können Algorithmen wirklich Vertrauen ersetzen?

Das Radiofeature stellt eine essenzielle Frage: Was passiert mit uns als Gesellschaft, wenn wir unser emotionales Innenleben zunehmend an Maschinen auslagern? Laut Schiffer könnte dies nicht nur individuelle, sondern auch gesellschaftliche Folgen haben. Die wachsende Rolle von KI als seelischer Beistand ersetzt keine echten zwischenmenschlichen Beziehungen – und doch schreitet die Entwicklung rasant voran.

Der Umgang mit Künstlicher Intelligenz wird sich grundlegend verändern müssen – nicht nur technisch, sondern vor allem ethisch und gesellschaftlich. Die Doku macht deutlich, wie dringend eine öffentliche Debatte über die psychologische Verantwortung von KI-Anbietern ist.

Das ARD Radiofeature "Künstliche Nähe" ist ab dem 1. Dezember 2025 in der ARD Audiothek
abrufbar. Lineare Sendetermine in den Kulturwellen der ARD finden in der Woche vom 2. bis 7. Dezember 2025 statt.