KI-Halluzination brachte US-Militär fast zum Zugriff
Ein mit einem Chatbot erstellter Geheimdienstbericht identifizierte Fracht auf einem chinesischen Schiff falsch – gestoppt wurde der Zugriff kurz davor.
Kurz gesagt
Ein mit einem Chatbot erstellter US-Geheimdienstbericht behauptete im Frühjahr 2026 fälschlich, ein chinesisches Schiff transportiere Komponenten eines Atomwaffenprogramms – die vorbereitete Enteraktion wurde erst kurz vor der Ausführung gestoppt.
Auf einen Blick
- Frühjahr 2026: KI-gestützter Bericht ordnet Fracht eines chinesischen Schiffs im Nahen Osten einem Atomwaffenprogramm zu.
- Eine von CNN zitierte Quelle nennt den Bericht „völlig falsch“ – er hätte „beinahe einen Krieg ausgelöst“.
- Januar 2026: Pete Hegseth legt die „Artificial Intelligence Acceleration Strategy“ für ein „AI-first“-Militär vor.
- Anthropic lehnt Modelle für autonome Waffensysteme ab und verliert dadurch einen Auftrag über 200 Millionen Dollar.
Ein US-Geheimdienstbericht, der im Frühjahr 2026 mithilfe eines Chatbots entstand, behauptete fälschlich, ein chinesisches Schiff im Nahen Osten transportiere Komponenten eines Atomwaffenprogramms. Das US-Militär bereitete daraufhin eine Operation vor, um den Frachter zu entern. Kurz vor dem Zugriff bemerkten Beamte, dass die KI das Material falsch zugeordnet hatte. Eine von CNN zitierte Quelle nannte den Bericht „völlig falsch“ und sagte, er hätte „beinahe einen Krieg ausgelöst“.
Wie der falsche Befund entstand
Das eingesetzte System verband öffentlich zugängliche Informationen mit geheimen Signaldaten und zog daraus einen Schluss, der sich nicht halten ließ. Nach Darstellung der Quellen ist das kein Einzelfall: Halluzinationen treten in der Geheimdienstgemeinschaft häufiger auf. Erschwerend wirkt, dass jüngere Analyst:innen den Werkzeugen oft ohne Gegenprüfung vertrauen. Gleichzeitig erhöht die Technik den Druck, Lagebilder schneller zu liefern – und Tempo begünstigt Fehler.
Werkzeuge ohne gemeinsame Leitplanken
Ein ehemaliger hochrangiger Regierungsbeamter beschreibt interne Behörden-KI als weitgehend aufgehübschte Kopien kommerzieller Produkte. Eine weitere Quelle sagt, der Einsatz von KI bei der Zielerfassung nehme deutlich zu, ohne dass es dafür belastbare Leitlinien gebe. Zuständigkeiten, Werkzeuge und Sicherheitsstandards sind dezentral verteilt und unterscheiden sich von Stelle zu Stelle. Eine zentrale Prüfinstanz, die KI-gestützte Berichte vor der Weitergabe gegenprüft, nennt die Darstellung nicht.
Tempo als erklärtes Programm
Im Januar 2026 legte Verteidigungsminister Pete Hegseth die „Artificial Intelligence Acceleration Strategy“ vor. Sie soll KI schneller in militärische Abläufe bringen und die Streitkräfte zu einer „AI-first“-Organisation machen. Das Pentagon verlangte von KI-Anbietern Modelle für „alle rechtmäßigen Zwecke“, ausdrücklich auch für autonome Waffensysteme. Anthropic lehnte ab – CEO Dario Amodei erklärte, man werde nicht wissentlich ein Produkt liefern, das US-Soldat:innen und Zivilist:innen in Gefahr bringe; das Unternehmen verlor dadurch einen Auftrag über 200 Millionen Dollar.
Was dieser Artikel nicht belegen kann
Die Schilderung des Vorfalls stützt sich auf die unten verlinkte t3n-Meldung, die ihrerseits auf CNN-Quellen verweist. Ein zweiter vorgesehener Beleg war zum Redaktionszeitpunkt technisch nicht abrufbar und konnte deshalb nicht ausgewertet werden. Unabhängig bestätigt sind damit weder das genaue Datum, der Name des Schiffs noch die beteiligten Kommandostellen. Eine offizielle Bestätigung des Verteidigungsministeriums liegt uns nicht vor.
Häufige Fragen
Welche KI-Halluzination hätte beinahe einen militärischen Konflikt ausgelöst?
Ein mit einem Chatbot erstellter US-Geheimdienstbericht ordnete im Frühjahr 2026 die Fracht eines chinesischen Schiffs im Nahen Osten fälschlich einem Atomwaffenprogramm zu. Die geplante Enteraktion wurde kurz vor dem Zugriff gestoppt, nachdem der Fehler auffiel.
Warum hat Anthropic einen Auftrag des Pentagon verloren?
Das Pentagon verlangte Modelle für „alle rechtmäßigen Zwecke“, einschließlich autonomer Waffensysteme. Anthropic lehnte das ab; CEO Dario Amodei begründete dies damit, man liefere nicht wissentlich ein Produkt, das US-Soldat:innen und Zivilist:innen gefährde. Der Auftrag hatte ein Volumen von 200 Millionen Dollar.
Was ist die Artificial Intelligence Acceleration Strategy?
Verteidigungsminister Pete Hegseth veröffentlichte sie im Januar 2026. Ziel ist, KI schneller in militärische Abläufe zu integrieren und die US-Streitkräfte zu einer „AI-first“-Organisation zu entwickeln. Details zu Prüf- und Freigabeverfahren sind aus der vorliegenden Quelle nicht ersichtlich.
