Amodei ruft in neuem Aufsatz zur Verlangsamung der KI-Entwicklung auf
Anthropic-Chef Dario Amodei fordert eingebettete Prüfer und internationale Abstimmung. Altman, Hassabis und Musk unterstützen den Aufruf öffentlich.
Symbolbild · KI-generiert (AI IN LIFE)
Auf einen Blick
- Veröffentlichung: Samstag, 12. September 2026, durch Anthropic-Chef Dario Amodei
- Titel des Aufsatzes: Die Adoleszenz der Technologie, rund 3.800 Wörter
- Öffentlich mitgetragen von Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) und Elon Musk (xAI)
- OpenAI, Anthropic und Google DeepMind bestätigten wochenlange gemeinsame Sicherheitsgespräche
- Drei-Stufen-Plan: eingebettete Prüfer, Abstimmung unter Demokratien, internationale Abkommen
Anthropic-Chef Dario Amodei hat am Samstag, dem 12. September 2026, einen rund 3.800 Wörter langen Aufsatz mit dem Titel Die Adoleszenz der Technologie veröffentlicht. Darin fordert er ein bewusstes, koordiniertes Abbremsen der KI-Entwicklung, weil selbstverbessernde Systeme inzwischen schneller voranschreiten als Forscher sie verstehen und absichern können.
Sein Drei-Stufen-Vorschlag beginnt mit fest eingebetteten, unabhängigen Prüfern in den führenden Laboren, geht weiter zu Abstimmung zwischen den KI-Firmen demokratischer Staaten und zielt langfristig auf internationale Abkommen. Besonders die sogenannte rekursive Selbstverbesserung, bei der ein KI-System seinen eigenen Nachfolger mitentwickelt, müsse laut Amodei extrem vorsichtig oder gar nicht verfolgt werden.
Der Aufruf fand ungewöhnlich breite Unterstützung: OpenAI-Chef Sam Altman, Google-DeepMind-Chef Demis Hassabis und xAI-Gründer Elon Musk unterzeichneten öffentlich mit. Wenige Tage später bestätigte OpenAIs Politikchef Chris Lehane, dass OpenAI, Anthropic und Google DeepMind bereits seit Wochen gemeinsam an Sicherheitsmaßnahmen arbeiten – ohne dafür eine kartellrechtliche Ausnahme zu benötigen.
Kritiker weisen darauf hin, dass eine freiwillige Selbstverpflichtung ohne rechtliche Bindung wenig Durchsetzungskraft hat und dass ausgerechnet die Unternehmen, die am meisten vom aktuellen Tempo profitieren, nun öffentlich zur Vorsicht mahnen.
Häufige Fragen
Was ist rekursive Selbstverbesserung?
Damit ist gemeint, dass ein KI-System aktiv am Design oder Training seines eigenen Nachfolgers mitwirkt. Amodei warnt, dass dieser Prozess die Kontrolle über die Entwicklung erschweren könnte, wenn er zu schnell abläuft.
Ist das ein verbindliches Entwicklungs-Moratorium?
Nein. Amodei fordert keinen sofortigen Stopp, sondern eingebettete Prüfer und abgestimmte Regeln zwischen den führenden Laboren – eine freiwillige Selbstverpflichtung, keine gesetzliche Vorgabe.
Warum ist die breite Unterstützung bemerkenswert?
Weil Amodei, Altman, Hassabis und Musk normalerweise scharfe Konkurrenten sind. Ihre gemeinsame öffentliche Unterstützung gilt als das eigentlich Neue an der Nachricht, nicht der Aufsatz selbst.
