In den USA sorgt ein tragischer Fall für große Aufmerksamkeit: Die Eltern eines 16-jährigen Jungen haben eine Klage gegen das Unternehmen OpenAI eingereicht. Sie machen geltend, dass ihr Sohn während einer seelischen Krise durch den Kontakt mit dem Chatbot ChatGPT nicht ausreichend auf reale Hilfsangebote verwiesen worden sei.

Vom Schulhelfer zum Gesprächspartner

Laut der Klageschrift begann der Jugendliche im Herbst 2024, ChatGPT zunächst für schulische Aufgaben zu verwenden. Im Laufe der Zeit nutzte er den Chatbot auch für Themen wie Hobbys, Musik oder Studienpläne. Schritt für Schritt entwickelte sich das System für ihn zu einem regelmäßigen Gesprächspartner, dem er schließlich auch persönliche Sorgen anvertraute.

Die Vorwürfe

Nach Darstellung der Eltern habe ihr Sohn Anfang 2025 begonnen, über seine psychische Belastung und Zukunftsängste mit dem Chatbot zu sprechen. In Protokollen, die später entdeckt wurden, sollen entsprechende Nachrichten enthalten sein. Die Familie wirft OpenAI vor, dass ChatGPT in diesen Momenten nicht konsequent auf die Notwendigkeit verwiesen habe, sich an reale Bezugspersonen oder professionelle Hilfe zu wenden.

Stellungnahme von OpenAI

Der Sender NBC News berichtete über den Fall und veröffentlichte Teile der Chatnachrichten. OpenAI bestätigte deren Echtheit, wies jedoch darauf hin, dass die veröffentlichten Ausschnitte nicht den gesamten Gesprächsverlauf abbilden.
Ein Sprecher des Unternehmens erklärte:

„Wir sind zutiefst betroffen von diesem tragischen Verlust. Unsere Gedanken sind bei der Familie. ChatGPT verfügt über Sicherheitsmechanismen, die Menschen in Notlagen an Hilfsangebote verweisen. Wir arbeiten kontinuierlich daran, diese Schutzmaßnahmen zu verbessern.“

Gesellschaftliche Diskussion

Der Fall wirft erneut Fragen zur Verantwortung von KI-Systemen auf – insbesondere dann, wenn junge Menschen oder Personen in seelischen Krisen mit ihnen interagieren. Fachleute fordern daher mehr Transparenz, strengere technische Schutzmaßnahmen und klare gesetzliche Regelungen, um Risiken zu minimieren.

Bedeutung von Unterstützung im realen Umfeld

Unabhängig vom Ausgang des Verfahrens verdeutlicht der Fall, wie wichtig es ist, in seelischen Krisen Unterstützung durch Familie, Freunde oder Fachleute zu suchen. Digitale Systeme können den persönlichen Kontakt nicht ersetzen.

👉 Wenn du selbst oder jemand in deinem Umfeld unter seelischer Belastung leidet, wende dich bitte an professionelle Anlaufstellen.
In Deutschland erreichst du die Telefonseelsorge rund um die Uhr und kostenlos unter 0800 111 0 111 oder 0800 111 0 222.