Anthropic-Forscher kündigt: KI könnte alle Menschen töten
Jacob Coxon verlässt Anthropic und wirft der Branche vor, im Wettlauf zur selbstverbessernden Superintelligenz das Leben aller Menschen aufs Spiel zu setzen.
Symbolbild: Eine Person zieht nachts ein Netzwerkkabel aus einem laufenden GPU-Serverschrank, während die Status-LEDs weiter blinken.
Der Anthropic-Forscher Jacob Coxon hat am 9. September 2026 gekündigt, weil die Branche aus seiner Sicht auf eine sich selbst verbessernde Superintelligenz zurast, ohne einen Plan für deren Kontrolle zu haben.
Auf einen Blick
- Jacob Coxon machte seine Kündigung bei Anthropic am Abend des 9. September 2026 in einem Social-Media-Post öffentlich.
- Zuvor arbeitete er drei Jahre lang an Pretraining-Forschung, erst bei OpenAI, dann bei Anthropic.
- Sein Vorwurf: Die Labore rasten zur selbstverbessernden Superintelligenz und spielten dabei mit dem Leben aller.
- Kollege Evan Hubinger beziffert das Risiko, dass KI im kommenden Jahrzehnt alle Menschen tötet, auf über 10 %.
- Anthropic äußerte sich laut TechCrunch zunächst nicht zu einer Anfrage.
Jacob Coxon hat nach eigenen Angaben am 9. September 2026 bei Anthropic gekündigt und den Schritt am selben Abend öffentlich gemacht. Seine Begründung: Die Labore steuerten geradewegs auf eine sich selbst verbessernde Superintelligenz zu, ohne zu wissen, wie sie diese kontrollieren wollen. Coxon arbeitete davor drei Jahre lang an Pretraining-Forschung, erst bei OpenAI, dann bei Anthropic.
Der Vorwurf: Tempo statt Kontrolle
Coxon wirft der Branche vor, sie „spiele mit unser aller Leben“, während sie das Rennen zur selbstverbessernden Superintelligenz beschleunige. Bemerkenswert ist dabei weniger die Warnung selbst als ihre Herkunft: Sie kommt von jemandem, der an den Modellen mitgebaut hat. Nach seiner Darstellung sind die Risiken intern durchaus verstanden – nur sitze man eben in einem Wettlauf um den ersten Platz.
Ein Kollege nennt eine Zahl
Der Anthropic-Forscher Evan Hubinger stützte den Kern der Kritik und wurde konkreter. Er beziffert die Wahrscheinlichkeit, dass KI innerhalb des kommenden Jahrzehnts alle Menschen tötet, auf über 10 %. Zugleich räumte er ein, dass es keinen fertigen Plan gebe, um Alignment für Superintelligenz zu lösen. Solche Angaben sind persönliche Schätzungen einzelner Forscher und keine Messwerte.
Was gesichert ist – und was nicht
Gesichert sind der Rücktritt samt Begründung sowie die Aussagen Hubingers, so wie TechCrunch sie am 9. September 2026 wiedergegeben hat. Anthropic hat sich dem Bericht zufolge zunächst nicht geäußert. Berichte weiterer Redaktionen waren für uns technisch nicht abrufbar; deren zusätzliche Angaben haben wir daher weder geprüft noch übernommen.
Warum das über eine Personalie hinausgeht
Für Anthropic ist der Fall heikel, weil sich das Unternehmen öffentlich über Sicherheitsforschung definiert. Wenn ausgerechnet dort jemand hinwirft und das Renntempo als das eigentliche Problem benennt, verschiebt das die Debatte weg von Produktfragen. Ob daraus mehr folgt als ein Nachrichtenzyklus, hängt daran, ob weitere Beschäftigte nachziehen.
Häufige Fragen
Wer ist Jacob Coxon?
Ein KI-Forscher, der drei Jahre lang an Pretraining-Forschung bei OpenAI und Anthropic gearbeitet hat und am 9. September 2026 bei Anthropic gekündigt hat.
Was meint er mit selbstverbessernder KI?
Systeme, die ihre eigene Weiterentwicklung vorantreiben. Coxon hält das Tempo dieses Rennens für gefährlich, weil ein belastbarer Plan zur Kontrolle fehle.
Wie hoch schätzen Anthropic-Forscher das Risiko ein?
Evan Hubinger nennt über 10 % dafür, dass KI im kommenden Jahrzehnt alle Menschen tötet. Das ist seine persönliche Schätzung, keine offizielle Unternehmensangabe.
