Wenn der Chatbot zum Therapeuten wird - Stiftung warnt vor KI-Nutzung bei psychischen Krisen im Jugendalter

Wenn sich Kinder mit Sorgen oder in Krisen an Chatbots wenden, kann das große Risiken bergen. Die Stiftung "Achtung!Kinderseele" stellt konkrete Forderungen an Politik und KI-Unternehmen.

Hamburg, 15. September 2026 - Immer mehr Kinder und Jugendliche vertrauen sich bei Ängsten, depressiven Verstimmungen oder Suizidgedanken nicht Eltern, Lehrkräften oder Fachärzt:innen an, sondern wenden sich an KI-Chatbots wie ChatGPT. Doch was auf den ersten Blick wie ein maximal niedrigschwelliges, jederzeit verfügbares Gesprächsangebot wirkt, birgt erhebliche Risiken - und ersetzt keine kinder- und jugendpsychiatrische Versorgung.

Ein wachsendes Phänomen ohne Aufsicht

Chatbots sind rund um die Uhr erreichbar, urteilen scheinbar nicht und verlangen keine Überwindung, im Gegensatz zum Gang in eine Beratungsstelle, Praxis oder Klinik. Genau diese Eigenschaften machen sie für belastete Jugendliche attraktiv - und genau diese Eigenschaften bergen substanzielle Gefahren, wenn ernsthafte psychische Krisen dahinterstehen.

"Ein Chatbot kann eine schwere psychische Krankheit oder eine akute Suizidalität nicht zuverlässig erkennen und trägt keine Verantwortung für das, was er sagt. Genau das kann in einem kritischen Moment gefährlich werden", so Prof. Dr. Eva Möhler, Direktorin der Klinik für Kinder- und Jugendpsychiatrie, Psychosomatik und Psychotherapie des Universitätsklinikums des Saarlands und Kuratoriumsmitglied der Stiftung "Achtung!Kinderseele".

Die zentralen Risiken:

* Fehleinschätzung von Suizidalität und akuten Krisen: Chatbots sind nicht darauf ausgelegt, Warnsignale zuverlässig zu erkennen oder im Notfall angemessen zu reagieren.
* Schmeichelei: die Tendenz, (auch hochproblematische) Nutzeraussagen eher zu bestätigen als kritisch zu hinterfragen stellt trotz Nachbesserungen einzelner KI-Anbieter noch immer ein gefährliches Risiko dar.
* Verstärkung von Vermeidungsverhalten: Wer sich ausschließlich einem Chatbot anvertraut, meidet möglicherweise den Schritt in eine reale Beratung oder therapeutische Betreuung - und verzögert damit notwendige Behandlung.
* Scheinbare Empathie ohne fachliche Tiefe: Sprachmodelle können unterstützend klingen, ohne diagnostisch fundiert einordnen zu können, was hinter den Symptomen steht.
* Fehlende Anbindung an das Versorgungssystem: Anders als Fachpersonen können Chatbots Jugendliche nicht in ein vernetztes Hilfesystem aus Klinik, ambulanter Therapie und Jugendhilfe einbinden.
* Fehlende Vertraulichkeit und Datenschutz: Sensible Gesundheitsdaten Minderjähriger werden bei kommerziellen KI-Anbietern verarbeitet, oft ohne Transparenz darüber, was mit den Informationen geschieht.

Forderungen der Stiftung "Achtung!Kinderseele":

Die Stiftung, die sich im Rahmen diverser Programme für Prävention, Früherkennung und Entstigmatisierung seelischer Krankheiten von Kindern und Jugendlichen einsetzt, fordert daher:

* Klare Leitplanken für KI-Anwendungen im Gesundheitskontext, die sich an Minderjährige richten oder von ihnen genutzt werden.
* Verpflichtende Verweise auf professionelle Hilfsangebote (z. B. Beratungsstellen, Telefonseelsorge, Kinder- und Jugendpsychiatrie) bei erkennbaren Krisenanzeichen im Chatverlauf.
* Aufklärung von Lehrpersonal, Eltern und Jugendlichen über Chancen und Grenzen von KI-Chatbots im Umgang mit psychischer Belastung.
* Finanzierung von Forschung zur tatsächlichen Nutzung und Wirkung solcher Anwendungen bei Kindern und Jugendlichen, um die Regulierung auf eine belastbare Datenbasis zu stellen.
* Breite Bekanntmachung niedrigschwelliger, aber fachlich fundierter Beratungs- und Hilfs-Angebote wie 116 111 - die Nummer gegen Kummer für Kinder und Jugendliche, krisenchat.de oder www.u25-deutschland.de, damit Jugendliche gar nicht erst auf unbeaufsichtigte KI-Lösungen als einzige verfügbare Anlaufstelle angewiesen sind.

Expertin Prof. Möhler: "Wir wollen digitale Angebote keinesfalls pauschal verteufeln. Es kann für Kinder und Jugendliche durchaus entlastend sein, ihre Sorgen mit einer KI zu teilen - und häufig gibt die KI sogar hilfreiche Tipps. Gleichzeitig sind klare Leitplanken und Grenzen aber absolut notwendig, um die seelische Gesundheit von Kindern und Jugendlichen gezielt zu unterstützen."

Verantwortlicher für diese Pressemitteilung:

Stiftung Achtung!Kinderseele
Frau Anne Reis
Poststraße 51
20354 Hamburg
Deutschland

fon ..: 040320883026
web ..: https://www.achtung-kinderseele.org
email : info@achtung-kinderseele.org

Stiftung "Achtung!Kinderseele"
Als Stiftung zur Förderung der seelischen Gesundheit von Kindern und Jugendlichen agieren wir in enger Zusammenarbeit mit ehrenamtlich engagierten Fachärzt:innen für Kinder- und Jugend-psychiatrie und -psychotherapie. Wir entwickeln und implementieren Präventionsprogramme, um Kinder, Jugendliche und ihr jeweiliges Lebensumfeld für das Thema seelische Gesundheit zu sensibilisieren. Wir klären auf, informieren und setzen uns dafür ein, dass Kinder und Jugendliche mit psychischem Unterstützungsbedarf frühzeitig Hilfe bekommen. Die Stiftung wurde 2009 von den Fachverbänden für Kinder- und Jugendpsychiatrie und -psychotherapie DGKJP, BAG und BKJPP gegründet. Gemeinsam mit ihnen arbeiten wir dafür, dass seelische Krankheiten kein Tabuthema mehr sind. Unsere Programmarbeit finanzieren wir komplett aus Spenden und Fördergeldern. www.achtung-kinderseele.org

Pressekontakt:

Stiftung Achtung!Kinderseele
Frau Anne Reis
Poststraße 51
20354 Hamburg

fon ..: 040/3208830-26
email : info@achtung-kinderseele.org