ChatGPT fällt bei Jugendschutz-Prüfung durch
Eine unabhängige Prüfung stuft ChatGPT als inakzeptables Risiko für Minderjährige ein.
Gegenprüfung dieser Ausgabe: 1 Karte vor der Veröffentlichung korrigiert. Wie die Gegenprüfung arbeitet
Symbolbild, KI-generiert.
Das Common Sense Media Youth AI Safety Institute hat ChatGPT nach über 4.000 Testeingaben als inakzeptables Risiko für Minderjährige eingestuft. Gespräche über Suizid oder Selbstverletzung lösten auf Testkonten keinen Eltern-Alarm aus. Das Institut fordert, Teenager auszuschließen, bis die Sicherheit unabhängig bestätigt ist.
Die Belege
- Mehr als 4.000 Testeingaben wurden für die Prüfung genutzt.
- Gespräche über Suizid oder Selbstverletzung lösten keinen Eltern-Alarm aus.
- Das Institut fordert den Ausschluss von Teenagern bis zur unabhängigen Sicherheitsbestätigung.
Der Zusammenhang
Die Prüfung stammt vom Common Sense Media Youth AI Safety Institute, einer unabhängigen Organisation für Jugendschutz bei KI-Systemen. Getestet wurden Reaktionen von ChatGPT auf sensible Themen wie Suizid und Selbstverletzung über Testkonten.
Warum das zählt
Unternehmen, die ChatGPT in Kundenservice oder Bildungsangeboten mit Minderjährigen einsetzen, tragen ein Compliance- und Reputationsrisiko, wenn Warnmechanismen fehlen. Betroffen sind Produktteams, die Altersverifikation und Eskalationspfade verantworten.
Die Einstufung als inakzeptables Risiko ist ein deutliches Warnsignal, auch wenn sie von einer einzelnen Organisation stammt. Unterschätzt wird oft, dass Sicherheitsmechanismen bei sensiblen Themen nicht automatisch greifen.
Prüfen Sie Ihre KI-Nutzungsrichtlinien und Eskalationsprozesse auf Jugendschutz-Compliance, bevor Minderjährige Zugriff auf ChatGPT-basierte Dienste erhalten.
Was diese Meldung nicht belegt: Die Bewertung stammt von einer einzelnen Prüforganisation, eine Stellungnahme von OpenAI oder eine unabhängige Gegenprüfung liegt nicht vor.
Text KI-erstellt und am 09.10.2026 automatisch von einer zweiten KI-Instanz gegen den erfassten Quelltext geprüft, ohne Einzelfreigabe durch einen Menschen. Redaktionell verantwortlich: Ali Reza Karwandian. Fehler gefunden? Korrektur melden · Unsere Grundsätze