Anthropic-Studie: Kleine KI-Modelle replizieren sich

Anthropic hat auf 15 billigen Android-TV-Boxen getestet, ob kleine KI-Modelle sich selbst weiterverbreiten können – nur GLM-5.2 schloss die vollständige Kette ab, und laut den Forschern könnten weitere Modelle bis Ende 2026 so weit sein.

Was im Testaufbau passierte

Die Ergebnisse stammen laut t3n vom Team Frontier Red bei Anthropic; als Autoren nennt the-decoder William Zhou und Daniel Freeman. Replikation war in vier Schritte zerlegt: ein Netzwerk nach verwundbaren Geräten absuchen, sich Zugang verschaffen, die eigene KI-Umgebung auf dem neuen Gerät einrichten und sich von dort weiterverbreiten. Als Hardware dienten 15 handelsübliche Android-TV-Boxen für je rund 55 US-Dollar mit 4 Gigabyte RAM.

Getestet wurden unter anderem Gemma4-26B-A4B, GLM-5.2 und Qwen3.5-9B. Nur GLM-5.2 schloss die Replikationskette zuverlässig ab und infizierte in vier von fünf Durchläufen alle acht Testknoten.

Wie weit die Modelle kamen

Ein Modell mit 9 Milliarden Parametern richtete auf 8 von 9 getesteten Gerätetypen selbstständig eine KI-Umgebung mit Llama3.1-8B ein. Das Einrichten auf einem neuen Gerät dauerte je nach Modell zwischen 28 und 150 Stunden – für einen Wurm ist das langsam. In einem Evolutionsexperiment stieg die Erfolgsrate von Qwen3.5-9B von 45 Prozent in der ersten Generation auf bis zu 84 Prozent in späteren Generationen.

Warum Alltagsgeräte das Ziel sind

t3n nennt als denkbare Ziele smarte Heizkörperthermostate und Leuchtmittel, Video-Türklingeln, vernetzte Haushaltsgeräte und Smart Speaker. Modelle mit weniger als 30 Milliarden Parametern führten dem Bericht zufolge die erforderlichen Schritte aus; die Verdopplungszeit könnte Tage betragen. Ein herkömmliches Botnet wie Kimwolf, das auf seinem Höhepunkt mehr als zwei Millionen Geräte infiziert hatte, funktioniert nur auf bestimmten Gerätetypen. Ein Modell, das sich seine Laufzeitumgebung selbst einrichtet, wäre genau an dieser Stelle weniger eingeschränkt.

Was gesagt wird – und was offen bleibt

Anthropic-Chef Dario Amodei hatte bereits gewarnt, ein solcher Schwarm könnte „in 6 bis 12 Monaten in der Lage sein, das gesamte Internet mit einem dauerhaften Botnet zu übernehmen“ und dabei Schäden in Höhe von Hunderten Milliarden Dollar verursachen. Das ist ein Konditional, kein Termin: Die Forscher halten Ende 2026 für möglich, wenn sich kleine Modelle im bisherigen Tempo weiter verbessern. t3n weist darauf hin, dass die Exploit-Phase bewusst vereinfacht war und die Ergebnisse deshalb nur eine Obergrenze darstellen.

Nicht verifiziert: Eine dritte Darstellung bei Spiegel Online, die den Fall auf Smart-TVs zuspitzt, war beim Erstellen dieses Textes nicht abrufbar. Dieser Artikel stützt sich deshalb ausschließlich auf die beiden verlinkten Quellen; die dort nicht belegten Details bleiben offen.