OpenAI kündigte am 30. Oktober 2026 neue Einschränkungen für ChatGPT an: Teenager sollen weniger praktische Informationen über Waffen und Sicherheitssysteme erhalten, die missbraucht werden könnten. Reuters berichtete, der Rollout solle in den Wochen nach der Ankündigung beginnen.
Welche Informationen für Teenager betroffen sind
Die angekündigte Einschränkung richtet sich auf praktische Informationen über Waffen und Sicherheitssysteme, die missbraucht werden könnten. Laut Reuters soll sie auch dann greifen, wenn bei einer Frage keine Gewaltabsicht erkennbar ist. Die Einschränkung bezieht sich damit auf solche praktischen Informationen, nicht auf jede Erwähnung von Waffen.
Welche Maßnahmen für alle Nutzer gelten sollen
Reuters zufolge kündigte OpenAI daneben Maßnahmen für alle ChatGPT-Nutzer an. Sie betreffen Gespräche, die sich offenbar stark um Gewalt drehen, und Antworten zu früheren Massenangriffen.
| Betroffene Gruppe | Angekündigte Maßnahme |
| Teenager | ChatGPT soll praktische Informationen über missbrauchbare Waffen und Sicherheitssysteme einschränken, auch ohne erkennbare Gewaltabsicht. |
| Alle Nutzer | ChatGPT soll Gespräche, die sich offenbar stark um Gewalt drehen, beenden können. Nach mehreren solchen Gesprächen kann OpenAI Konten vorübergehend pausieren. Antworten sollen weniger Details zu früheren Massenangriffen enthalten, darunter zu verwendeten Waffen und deren Beschaffung. |
Die Grenze verläuft also zwischen der speziellen Einschränkung praktischer Waffen- und Sicherheitsinformationen für Teenager und den separat angekündigten Maßnahmen für alle Nutzer. Bei den Kontopause-Maßnahmen bleibt es laut Reuters bei einer Möglichkeit: Eine Pause kann nach mehreren entsprechenden Gesprächen erfolgen.
Was OpenAI zu Altersprüfung und Elternbenachrichtigungen sagt
OpenAI zufolge können geeignete Konten, die als Konten von Personen unter 18 Jahren eingestuft werden, automatisch zu ChatGPT for Teens wechseln. Ein Erwachsener kann sein Alter über Persona bestätigen lassen. Wird die Volljährigkeit bestätigt, entfernt OpenAI die Schutzmaßnahmen für Teenager; die Umstellung kann etwas dauern. Die OpenAI-Hilfe zur Alterseinschätzung beschreibt nicht, ob die neu angekündigte Waffenbeschränkung zu diesen entfernten Schutzmaßnahmen zählt.
Für die Alterseinschätzung kann OpenAI verknüpfte Kontosignale heranziehen, darunter allgemeine Gesprächsthemen, Nutzungszeiten, die Art und den Zeitpunkt der Nutzung sowie das Kontoalter. Persona kann je nach Land ein Live-Selfie, einen amtlichen Ausweis oder beides anfordern. Persona löscht hochgeladene Ausweise oder Selfies laut OpenAI innerhalb von sieben Tagen; OpenAI erhält diese Bilder nicht, sondern altersbezogene Angaben, die für die Auswahl der Kontoerfahrung nötig sind.
Bei verknüpften Teenagerkonten können laut OpenAI optionale Sicherheitsbenachrichtigungen ausgelöst werden, wenn ein akutes Risiko von Selbstverletzung oder Gewalt erkannt wird. Geschulte Fachleute prüfen diese Benachrichtigungen. Eltern erhalten dabei weder die Eingaben des Teenagers noch die von ChatGPT erzeugten Antworten, erklärt OpenAI auf seiner Seite zu Schutzmaßnahmen für Teenager.
Reuters berichtete außerdem, OpenAI plane eine Benachrichtigung der Eltern, wenn ein Teenagerkonto nach wiederholten Gesprächen über Gewalt pausiert wird. Zu den konkreten Inhalten dieser Nachricht nannte Reuters keine Einzelheiten.
