Anthropic-Bericht: Biowaffen-Anfragen an Claude gestoppt
Der erste Missbrauchsbericht der Firma listet auf über 150 Seiten Fälle von Grippeforschung bis zu Drohnenschwärmen – belegt ist er allein durch Anthropic selbst.
Kurz gesagt
Anthropic gibt an, Nutzer gesperrt zu haben, die Claude für Forschung an gefährlichen Krankheitserregern und für Waffenentwicklung einspannen wollten – nachprüfbar ist das bislang nur aus dem Bericht der Firma.
Auf einen Blick
- Bericht „Detecting and countering misuse of AI“: über 150 Seiten, acht Monate Beobachtung, sieben Missbrauchs-Kategorien.
- Biologie: Anfragen zu Gain-of-Function-Forschung und tausende Nachrichten zu Grippeviren über VPN und anonyme E-Mail-Adresse.
- Waffen: Raketen (Nordjemen), Anti-Torpedo-Technik (China), autonome Kamikaze-Drohnenschwärme (mutmaßlich Freiberufler aus Russland).
- Destillation: 23 Millionen Interaktionen von Moonshot (Kimi) von Mai bis Juli, 12 Millionen über Deepseek in 14 Tagen.
- Der Standard berichtet zusätzlich von Einschränkungen für Anfragen aus geografisch risikoreichen Regionen.
Anthropic hat nach eigenen Angaben mehrere Nutzerkonten gesperrt, die Claude für Arbeiten an gefährlichen Krankheitserregern und an Waffentechnik verwenden wollten. Die Fälle stammen aus dem ersten umfangreichen Missbrauchsbericht der Firma, den heise online am 11. September 2026 beschrieben hat. Unabhängig geprüft sind sie nicht: Einzige Quelle für Ablauf und Umfang ist Anthropic selbst.
Was in dem Bericht steht
Der Bericht trägt den Titel „Detecting and countering misuse of AI“, umfasst nach Darstellung von heise online über 150 Seiten und wertet acht Monate aus. Er ordnet die Vorfälle sieben Feldern zu: Cyberoperationen, Einflussnahme, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffen und Modell-Destillation. Damit greift er deutlich weiter als die einzelnen Vorfallsmeldungen, die das Unternehmen bisher veröffentlicht hat.
Biologie: Grippeviren und ein Förderantrag
Im biologischen Teil beschreibt die Firma den Versuch, Claude für einen Förderantrag zur Gain-of-Function-Forschung an einem Virus einzuspannen. In einem weiteren Fall gingen tausende Nachrichten zu Grippeviren ein, abgesetzt über ein VPN und eine anonyme E-Mail-Adresse. Der Standard nennt dazu den Plan, eine Vogelgrippe-Variante zu untersuchen, die auf Säugetiere überspringen könnte.
Das dahinterliegende Problem benennt Der Standard ebenfalls: Ob solche Arbeiten medizinischen oder militärischen Zwecken dienen, lässt sich von außen kaum entscheiden. Anfragen aus geografisch risikoreichen Regionen wurden dem Bericht zufolge zusätzlich eingeschränkt.
Raketen, Torpedos, Drohnenschwärme
Unter konventionellen Waffen listet der Bericht Akteure aus dem Norden Jemens, die Raketen weiterentwickeln wollten, sowie chinesische Versuche rund um Anti-Torpedo-Technik. Hinzu kommen laut heise online „mutmaßlich freiberufliche Akteure aus Russland“, die an autonomen Kamikaze-Drohnenschwärmen arbeiteten. Die Zuordnung bleibt in allen drei Fällen eine Einschätzung der Firma und keine behördliche Feststellung.
Konkurrenten zapfen Claude an
Die handfestesten Zahlen stehen im Abschnitt zur Modell-Destillation. Anthropic zählte demnach 23 Millionen Interaktionen, die von Moonshot (Kimi) zwischen Mai und Juli stammten, sowie 12 Millionen Interaktionen über Deepseek innerhalb von 14 Tagen. Dahinter steht der Vorwurf, dass Wettbewerber Nutzeranfragen still an Claude weiterreichten, statt sie mit eigenen Systemen zu beantworten.
Was offen bleibt
Eine dritte deutschsprachige Meldung zu demselben Bericht ließ sich für diesen Text nicht öffnen; ihre Angaben sind hier deshalb nicht verarbeitet. Offen bleibt vor allem, wie Anthropic einzelne Konten bestimmten Akteuren zuordnet und was „gesperrt“ praktisch bedeutet – Kontosperre, Ablehnungsfilter oder Meldung an Behörden. Solange der Bericht die einzige Quelle ist, bleiben die Fälle die Darstellung einer Partei über ihr eigenes Durchgreifen.
Häufige Fragen
Was steht in Anthropics Missbrauchsbericht?
Der Bericht „Detecting and countering misuse of AI“ wertet nach Darstellung von heise online acht Monate auf über 150 Seiten aus und sortiert die Fälle in sieben Kategorien – von Cyberoperationen und Betrug bis zu biologischem Missbrauch, konventionellen Waffen und Modell-Destillation.
Hat Anthropic wirklich Biowaffenforschung verhindert?
Das lässt sich von außen nicht bestätigen. Anthropic beschreibt Anfragen zu Gain-of-Function-Forschung und zu Grippeviren und gibt an, eingegriffen zu haben; eine unabhängige Prüfung oder behördliche Bestätigung dieser Fälle liegt bislang nicht vor.
Was haben Moonshot und Deepseek mit dem Bericht zu tun?
Sie tauchen im Kapitel zur Modell-Destillation auf: Anthropic zählte 23 Millionen Interaktionen von Moonshot (Kimi) zwischen Mai und Juli und 12 Millionen über Deepseek in 14 Tagen und wirft den Anbietern vor, Anfragen heimlich an Claude weitergeleitet zu haben.
