Anthropic: Biowaffen-Filter fehlte fast ein Jahr
Millionen Anfragen liefen ohne den zuständigen Sicherheitsfilter, bevor der Ausfall bekannt wurde.
Symbolbild, KI-generiert.
Anthropic räumt ein, dass ein Sicherheitsfilter für biologische und chemische Waffenrisiken fast ein Jahr lang nicht aktiv war. In dieser Zeit führten rund 50.000 externe Feedback-Mitarbeiter:innen etwa 133 Millionen Austauschvorgänge ohne blockierende Klassifikatoren durch.
Die Belege
- Filter für biologische und chemische Waffenrisiken war fast ein Jahr lang inaktiv.
- Rund 50.000 externe Feedback-Mitarbeiter:innen waren in dieser Zeit aktiv.
- Etwa 133 Millionen Austauschvorgänge liefen ohne diesen Schutzmechanismus.
Der Zusammenhang
Anthropic legt den Ausfall in einem eigenen Sicherheitsbericht offen. Betroffen war ein interner Klassifikator, der Anfragen mit Bezug zu biologischen und chemischen Waffen blockieren sollte.
Warum das zählt
Unternehmen, die Claude in sicherheitskritischen oder forschungsnahen Anwendungen einsetzen, können sich nicht allein auf Herstellerangaben zu Schutzmechanismen verlassen. Compliance-Verantwortliche sollten Nachweise über aktive Filter einfordern.
Der lange Zeitraum und die hohe Nutzerzahl machen den Vorfall gewichtig.
Fordern Sie von Ihrem KI-Anbieter einen aktuellen Prüfbericht zu aktiven Sicherheitsfiltern und lassen Sie sicherheitskritische Use-Cases unabhängig testen.
Was diese Meldung nicht belegt: Unklar, ob während der Ausfallzeit tatsächlich schädliche Anfragen gestellt wurden und wie der Fehler entdeckt beziehungsweise behoben wurde.
Text KI-erstellt und am 17.08.2026 automatisch von einer zweiten KI-Instanz gegen den erfassten Quelltext geprüft, ohne Einzelfreigabe durch einen Menschen. Redaktionell verantwortlich: Ali Reza Karwandian. Fehler gefunden? Korrektur melden · Unsere Grundsätze