Anthropics Biowaffen-Filter war ein Jahr inaktiv
133 Millionen Interaktionen liefen ohne Schutzmechanismus gegen Bio- und Chemiewaffenrisiken.
Symbolbild, KI-generiert.
Anthropic bestätigt in einem Sicherheitsbericht, dass ein interner Filter gegen biologische und chemische Waffenrisiken fast zwölf Monate deaktiviert war. In diesem Zeitraum liefen laut Unternehmensangaben rund 133 Millionen Austauschvorgänge von etwa 50.000 externen Feedback-Mitarbeitenden ohne blockierende Klassifikatoren.
Die Belege
- Filter für Bio- und Chemiewaffenrisiken war laut Anthropic fast ein Jahr lang nicht aktiv.
- Rund 50.000 externe Feedback-Mitarbeitende nutzten die Modelle in diesem Zeitraum.
- Etwa 133 Millionen Austauschvorgänge liefen ohne blockierende Klassifikatoren.
- Anthropic legt den Sachverhalt selbst in einem Sicherheitsbericht offen.
Der Zusammenhang
Anthropic legt den Sachverhalt in einem eigenen Sicherheitsbericht offen. Betroffen war ein Klassifikator, der biologische und chemische Waffenrisiken erkennen und blockieren sollte. Laut Bericht betraf der Ausfall die 133 Millionen Austauschvorgänge der externen Feedback-Mitarbeitenden, weitere Angaben zu Ursache oder Entdeckung nennt das Material nicht.
Warum das zählt
Für Unternehmen, die Anthropic-Modelle in sicherheitskritischen oder regulierten Anwendungen einsetzen, zeigt der Fall, dass Anbieterzusagen zu Schutzmechanismen nicht automatisch geprüft sind. Compliance- und Einkaufsabteilungen sollten Sicherheitszusagen vertraglich mit Nachweispflichten verknüpfen.
Der Ausfall betraf ein sicherheitskritisches System über einen langen Zeitraum, ohne dass dies öffentlich bekannt wurde. Das unterstreicht, dass Selbstauskünfte von KI-Anbietern allein keine ausreichende Kontrolle bieten.
Fordern Sie von Anthropic und anderen KI-Anbietern dokumentierte Nachweise über aktive Sicherheitsfilter als Vertragsbestandteil.
Was diese Meldung nicht belegt: Unklar bleibt, ob und welche schädlichen Inhalte durch die Lücke tatsächlich erzeugt wurden, es liegen nur Anthropic-eigene Angaben vor.
Text KI-gestützt erstellt und am 17.08.2026 im Zwei-Instanzen-Verfahren gegen die erfassten Radar-Rohdaten geprüft. Fehler gefunden? Korrektur melden · Unsere Grundsätze