Bryan Cantrill: KI-Angst ohne Belege ist ansteckend
Ein 27-jähriger Ex-Anthropic-Mitarbeiter beziffert das Risiko der Auslöschung auf über 10 Prozent. Bryan Cantrill verlangt Belege statt Panik.
Kurz gesagt
Bryan Cantrill widerspricht der These, KI könne die Menschheit bis zum Ende des Jahrzehnts auslöschen, weil die dafür genannten Mechanismen weder ausgeführt noch vom Fachgebiet der Warnenden gedeckt sind.
Auf einen Blick
- Jacob Coxon, 27, zuvor bei Anthropic: über 10 Prozent Wahrscheinlichkeit, dass KI im nächsten Jahrzehnt alle Menschen tötet.
- Evan Hubinger stimmt dieser Einschätzung laut Cantrills Text zu.
- Cantrills Beitrag erschien am 13.09.2026, Simon Willison verlinkte ihn am 14.09.2026.
- Cantrill kritisiert die Formeln „hacking critical infrastructure“ und „extinction-level bioweapons“ als nicht ausgeführt.
- Als Maßstab zitiert er Carl Sagan: außergewöhnliche Behauptungen verlangen außergewöhnliche Belege.
Bryan Cantrill widerspricht der These, KI könne die Menschheit bis zum Ende des Jahrzehnts auslöschen: Die dafür genannten Mechanismen seien weder ausgeführt noch vom Fachgebiet derjenigen gedeckt, die sie in Umlauf bringen.
Der Auslöser
Jacob Coxon, 27 Jahre alt und früher bei Anthropic, beziffert die Wahrscheinlichkeit, dass KI im nächsten Jahrzehnt alle Menschen tötet, auf über 10 Prozent. Evan Hubinger stimmte dieser Einschätzung zu. Cantrill veröffentlichte seine Erwiderung am 13.09.2026, Simon Willison griff sie am 14.09.2026 in seinem Linkblog auf.
Eine Nacht im ersten Studienjahr
Cantrill beginnt mit einem eigenen Fehltritt. In der Woche vor den Abschlussprüfungen überzeugten er und andere Informatikstudierende ihre Kommilitonen aus geisteswissenschaftlichen Fächern davon, ein Computervirus greife um sich. Die Panik ließ sich nicht mehr einfangen, Arbeit ging verloren. Für die Mechanik dahinter zitiert er Jonathan Swift: Die Lüge fliegt, die Wahrheit humpelt hinterher.
Warum Fachleute strenger geprüft gehören
Sein Argument ist kein Streit über eine Zahl, sondern über Vertrauen. Wer als Fachperson gilt, borgt sich beim Publikum einen Kredit, den dieses selbst nicht nachrechnen kann. Genau deshalb, so Cantrill, dürfe dieser Kredit nicht für Behauptungen eingesetzt werden, die außerhalb der eigenen Kompetenz liegen. Als Maßstab ruft er Carl Sagan auf: außergewöhnliche Behauptungen verlangen außergewöhnliche Belege.
Der Einwand aus der Hardware-Praxis
Cantrill baut Computer und argumentiert entsprechend materiell. Formeln wie „hacking critical infrastructure“ oder „extinction-level bioweapons“ benennen für ihn kein Verfahren, sondern ein Gefühl. Handlungsfähigkeit hänge an physischen Systemen, die Menschen bauen und kontrollieren; Intelligenz allein hebe diese Grenzen nicht auf. Er verweist dafür auf seinen Monktoberfest-Vortrag von 2023.
Was offen bleibt
Beide gelesenen Quellen geben Coxons Aussage wieder, der ursprüngliche Tweet wurde für diesen Text jedoch nicht selbst geprüft. Die genaue Formulierung stammt also aus der Wiedergabe von Cantrill und Willison, ebenso Hubingers zustimmende Rolle. Wie verbreitet diese Einschätzung innerhalb von Anthropic tatsächlich ist, sagen beide Texte nicht.
Häufige Fragen
Wer ist Jacob Coxon?
Ein 27-jähriger früherer Anthropic-Mitarbeiter, dessen Aussage zum Aussterberisiko durch KI Cantrills Text ausgelöst hat.
Wie hoch ist die genannte Wahrscheinlichkeit?
Über 10 Prozent innerhalb des nächsten Jahrzehnts. Evan Hubinger stimmte dieser Angabe laut Cantrill zu.
Was kritisiert Bryan Cantrill konkret?
Dass Formeln wie „hacking critical infrastructure“ und „extinction-level bioweapons“ ohne ausgeführten Mechanismus und außerhalb des eigenen Fachgebiets verwendet werden.
