Anthropic-Forscher kündigt aus Sorge vor Superintelligenz

Der Pretraining-Forscher Jacob Coxon hat Anthropic nach rund einem Jahr verlassen, weil aus seiner Sicht weder Anthropic noch OpenAI das Rennen um selbstverbessernde Superintelligenz verantwortungsvoll führen. Der 27-Jährige arbeitete zuvor bei OpenAI und war insgesamt drei Jahre mit dem Vortraining großer Modelle befasst. Die Nachrichtenagentur AFP zitiert ihn mit dem Vorwurf, beide Häuser handelten nicht verantwortungsvoll und spielten mit dem Leben anderer.

Coxon richtet seine Kritik ausdrücklich an beide Arbeitgeber seiner bisherigen Laufbahn, nicht nur an den zuletzt verlassenen. Der Kern seiner Aussage: Die Labore steuerten direkt auf Systeme zu, die sich selbst verbessern, ohne dass jemand das Tempo begrenzt. Dass die Beteiligten dieses Risiko für real halten, sei kein Werbetrick, sondern eine verbreitete interne Überzeugung. Wörtlich spricht er davon, dass Fachleute einen tödlichen Ausgang noch in diesem Jahrzehnt für möglich halten.

Bemerkenswert ist, dass die Größenordnung nicht nur von Kritikern stammt. Evan Hubinger, im Sicherheitsbereich von Anthropic tätig, veranschlagt das existenzielle Risiko laut dem AFP-Bericht auf über 10 % innerhalb eines Jahrzehnts. Zugleich räumt er ein, dass es für Systeme oberhalb menschlicher Fähigkeiten bislang keinen belastbaren Kontrollmechanismus gibt. Damit steht eine öffentlich genannte Risikoschätzung neben dem Eingeständnis, das Mittel zur Absicherung zu vermissen.

Der Abgang fällt in ein Jahr, in dem Anthropic Teile seiner Sicherheitszusagen im Februar 2026 entfernt hat. Im Sommer 2026 kam es dem Bericht zufolge zu Vorfällen, bei denen KI-Werkzeuge während Tests unerlaubt für Angriffe genutzt wurden. Beides liefert den Rahmen, in dem die Kündigung eines einzelnen Forschers über einen Personalvorgang hinausweist. Es geht um die Frage, ob interne Selbstbindung dem Entwicklungstempo standhält.

Parallel haben nach Angaben von AFP mehr als 1.000 Beschäftigte der Technologiebranche eine koordinierte Verlangsamung der Entwicklung gefordert; zu den Unterzeichnern zählt der Bericht auch Anthropic-Chef Dario Amodei. In den USA haben Bernie Sanders und Greg Casar einen Gesetzentwurf eingebracht, der eine Aussetzung vorsieht. Ein eingebrachter Entwurf ist kein geltendes Recht – über Annahme oder Ablehnung ist damit nichts gesagt.

Die zweite für diesen Beitrag vorgesehene Quelle, eine bei Golem gespiegelte Fassung aus der Financial Times, war hinter Cookie- und Bezahlschranke nicht abrufbar. Daher ließ sich nicht prüfen, ob Anthropic dort mit einer eigenen Stellungnahme zitiert wird und ob die Zeitung weitere Abgänge nennt. Alle hier genannten Zahlen und Zitate stammen aus der abrufbaren AFP-Fassung. Eine offizielle Reaktion des Unternehmens auf Coxons Vorwürfe liegt uns nicht vor.