Anthropic: Bio-Filter war 11 Monate aus — 133 Millionen Chats

Anthropics Schutzfilter gegen Biowaffen-Anfragen waren auf den Plattformen für menschliches Feedback rund 11 Monate lang deaktiviert — von Mai 2025 bis April 2026. Betroffen waren etwa 133 Millionen Interaktionen von rund 50.000 externen Auftragnehmern. Das Unternehmen legt den Vorfall in seinem aktuellen Risikobericht selbst offen; The Next Web und The Decoder berichteten am Wochenende darüber.

Ursache war ein für interne Zwecke gedachtes Flag, das gleichzeitig die blockierenden Klassifikatoren und die Protokollierung abschaltete. Der markierte Verkehr „wurde nicht aufgezeichnet und an keine Prüfmechanismen weitergegeben" („was not recorded or propagated to any review mechanisms"), heißt es im Bericht — der Vorfall war dadurch nur über Roh-Transkripte auffindbar.

Die Nachprüfung fiel glimpflich aus: Anthropic ließ Claude Sonnet 5 über die betroffenen Daten laufen; 1.197 Transkripte wurden als potenziell riskant markiert, 757 davon stammten von eigenen Teams, der Rest waren bis auf 62 Fälle absichtliche Red-Teaming-Übungen. In den verbleibenden 62 geprüften Fällen fand das Unternehmen keinen klar bedenklichen Missbrauch.

Beunruhigender ist die Schlussfolgerung des Berichts selbst: Die Entdeckung lasse eine „erhöhte Wahrscheinlichkeit weiterer, ähnlicher uns unbekannter Probleme" vermuten. Zudem merkt der Bericht an, dass viele Vendor-Plattformen keine Screening-Prozesse hatten, die selbst einfache Bedrohungsakteure gestoppt hätten.

Für die Branche ist der Fall doppelt lehrreich: Er zeigt, wie fragil Sicherheitsketten in der Praxis sind — und dass transparente Selbstauskunft möglich ist. Genau diese Offenlegungskultur fordern Regulierer zunehmend von allen Frontier-Laboren ein.