Anthropic-Forscher kündigt aus Angst vor KI-Folgen
Der britische Mathematiker Jacob Coxon verlässt Anthropic, weil er das Rennen um immer stärkere Modelle für unverantwortlich hält.
Symbolbild: Ein geräumter Arbeitsplatz neben einem laufenden Serverschrank in einem KI-Labor.
Der britische Mathematiker Jacob Coxon hat Anthropic verlassen, weil er den Wettlauf der KI-Labore um immer stärkere Modelle für ein unverantwortliches Risiko hält – bis hin zur Sorge vor der Auslöschung der Menschheit.
Auf einen Blick
- Jacob Coxon, britischer Mathematiker, hat seine Arbeit bei Anthropic beendet.
- Als Grund nennt der Bericht die Sorge vor einer Auslöschung der Menschheit durch KI.
- Auslöser war laut Bericht die Rede von „Crunchtime“ und „Endspiel“ in Laboren des Silicon Valley.
- Anthropic-Chef Dario Amodei forderte zuletzt eine Pause bei sich selbst optimierenden Modellen.
- Kündigungsdatum, genaue Rolle und eine Stellungnahme von Anthropic sind nicht verifiziert.
Der britische Mathematiker Jacob Coxon hat seine Stelle bei Anthropic aufgegeben. Er begründet den Schritt mit der Sorge, dass die Entwicklung immer leistungsfähigerer KI-Systeme auf die Auslöschung der Menschheit hinauslaufen kann. Der Branche wirft er vor, dabei unverantwortliche Risiken einzugehen.
Kritik aus dem Inneren des Labors
Coxon arbeitete bei Anthropic, einem der Unternehmen, die sich seit Monaten mit neuen Modellgenerationen gegenseitig überbieten. Sein Weggang wiegt deshalb schwerer als übliche Warnungen: Der Einwand kommt nicht von außen, sondern von jemandem, der diese Systeme mitgebaut hat. In welchem Team er genau gearbeitet hat und wann die Kündigung wirksam wurde, geht aus dem zugänglichen Bericht nicht hervor.
Crunchtime und Endspiel
Ausschlaggebend war dem Bericht zufolge die Sprache, die sich in den KI-Laboren des Silicon Valley eingebürgert hat. Begriffe wie „Crunchtime“ und „Endspiel“ beschreiben dort eine Phase, in der die entscheidenden Wochen des Rennens bereits laufen. Für Coxon ist das kein Motivationsvokabular, sondern ein Hinweis darauf, wie ernst die Beteiligten ihre eigenen Zeitpläne nehmen.
Der Firmenchef warnt ebenfalls
Anthropic-Chef Dario Amodei hat zuletzt selbst eine Pause bei der Entwicklung sich selbst optimierender Modelle gefordert. Zusammen ergibt das ein ungewöhnliches Bild: Ein Unternehmen an der Spitze des Rennens gehört zugleich zu den lautesten Stimmen über dessen Gefahren. Der Standard weist darauf hin, dass existenzielle Warnungen für KI-Firmen auch als Geschäftsmodell taugen, weil sie die eigene Technik als übermächtig erscheinen lassen.
Was offen bleibt
Dieser Text stützt sich auf eine einzige zugängliche Quelle, die zudem nur teilweise frei lesbar ist. Nicht verifiziert sind deshalb der Wortlaut von Coxons Erklärung, das Datum seiner Kündigung, seine genaue Funktion bei Anthropic und eine mögliche Reaktion des Unternehmens. Die Quelle nennt keine Zahlen zu einem Risiko – wir tragen hier auch keine nach.
Häufige Fragen
Wer ist Jacob Coxon?
Ein britischer Mathematiker, der bei Anthropic gearbeitet hat und das Unternehmen aus Sorge vor den Folgen immer leistungsfähigerer KI verlassen hat. Seine genaue Funktion im Unternehmen nennt der zugängliche Bericht nicht.
Warum hat der Anthropic-Forscher gekündigt?
Weil er das Rennen der KI-Labore um immer stärkere Modelle für unverantwortlich hält. Dem Bericht zufolge gab die im Silicon Valley verbreitete Rede von „Crunchtime“ und „Endspiel“ den Ausschlag.
Was sagt Anthropic zu dem Rücktritt?
Eine Stellungnahme des Unternehmens ist in der zugänglichen Quelle nicht enthalten. Bekannt ist nur, dass Firmenchef Dario Amodei zuletzt selbst eine Pause bei sich selbst optimierenden Modellen gefordert hat.
