Ein tragischer Fall sorgt derzeit in den USA für Aufsehen: Die Eltern eines 16-jährigen Jungen haben eine Klage gegen das Unternehmen OpenAI eingereicht. Sie machen geltend, dass ihr Sohn durch den Kontakt mit dem Chatbot ChatGPT in seiner seelischen Krise nicht ausreichend geschützt worden sei.

Vom Schulhelfer zum „Vertrauten“

Nach Angaben der Familie begann der Schüler im September 2024 ChatGPT zunächst für schulische Aufgaben zu nutzen. Später suchte er auch Ratschläge zu Hobbys, Musik und möglichen Studienrichtungen.

Mit der Zeit entwickelte sich der Chatbot für den Jugendlichen zu einem „ständigen Gesprächspartner“, an den er sich zunehmend auch mit persönlichen Sorgen wandte. Laut Klage vertraute er dem System schließlich auch Gedanken über seine psychische Belastung an.

Die Vorwürfe der Eltern

Die Eltern werfen OpenAI vor, dass ihr Sohn Anfang 2025 begonnen habe, mit ChatGPT über seine seelischen Probleme zu sprechen. In Chatprotokollen, die später entdeckt wurden, soll er über Zukunftsängste, Belastungen und Selbstzweifel geschrieben haben.

Besonders schwer wiegt für die Familie der Vorwurf, dass der Chatbot in manchen Passagen nicht eindeutig dazu ermutigte, Hilfe bei realen Menschen zu suchen, sondern weiterhin Gespräche führte, anstatt konsequent auf professionelle Unterstützung zu verweisen.

Reaktionen und rechtliche Schritte

NBC News berichtete über den Fall und veröffentlichte Auszüge aus den Chatnachrichten. OpenAI bestätigte die Echtheit der Nachrichten, betonte jedoch, dass die veröffentlichten Ausschnitte nicht den gesamten Gesprächsverlauf abbilden.

Ein Sprecher von OpenAI erklärte:

„Wir sind zutiefst betroffen von diesem tragischen Verlust. Unsere Gedanken sind bei der Familie. ChatGPT verfügt über Sicherheitsmechanismen, die Menschen in Notlagen an Hilfsangebote verweisen. Wir arbeiten kontinuierlich daran, diese Schutzmaßnahmen zu verbessern.“

Diskussion über Verantwortung von KI

Der Fall löst in den USA eine breite Diskussion über den Umgang mit künstlicher Intelligenz aus – insbesondere, wenn sie in Kontakt mit jungen Menschen steht, die seelisch belastet sind. Experten fordern klarere Regeln und stärkere technische Schutzmechanismen, um Missbrauch oder gefährliche Situationen zu verhindern.

Unterstützung bei seelischen Krisen

Der Tod des Jugendlichen ist eine traurige Erinnerung daran, wie wichtig es ist, bei seelischen Krisen Hilfe im realen Umfeld zu suchen – sei es bei Familie, Freunden oder Fachleuten.

👉 Wenn du selbst oder jemand in deinem Umfeld mit belastenden Gedanken kämpft, zögere bitte nicht, professionelle Unterstützung in Anspruch zu nehmen.
In Deutschland erreichst du z. B. die Telefonseelsorge rund um die Uhr und kostenlos unter 0800 111 0 111 oder 0800 111 0 222.