Amodei: KI steckt in Vertrauenskrise – Ruf nach Regulierer
Anthropic-CEO Dario Amodei nennt die KI-Skepsis eine "Vertrauenskrise" und unterstützt eine zentrale Aufsicht nach Vorbild der US-Finanzaufsicht FINRA.
Symbolbild · KI-generiert (AI IN LIFE)
Auf einen Blick
- Amodei nennt die KI-Ablehnung "im Kern eine Vertrauenskrise"
- Er unterstützt eine zentrale KI-Aufsicht nach FINRA-Vorbild
- Selbstkritik: Große Versprechen an die Welt seien "noch nicht eingelöst"
- CNBC/Generation-Lab-Umfrage: 69% der 18- bis 34-Jährigen misstrauen Altman, 70% Musk, 71% Zuckerberg
- Anlass war ein öffentlicher Austausch mit Gouverneur Gavin Newsom auf X
Anthropic-Chef Dario Amodei hat sich ungewöhnlich offen zur wachsenden öffentlichen Skepsis gegenüber KI geäußert. In einem ausführlichen Beitrag auf X schrieb er am Samstag, die Ablehnung sei "im Kern eine Vertrauenskrise": Normale Menschen trauten weder Unternehmen noch Regierungen und vermuteten stets, "dass wir uns einen neuen Weg ausdenken, sie über den Tisch zu ziehen".
Bemerkenswert ist Amodeis Selbstkritik: Der treffendste Vorwurf an KI-Firmen – Anthropic eingeschlossen – sei, "dass wir unsere großen Versprechen, der Welt zu nützen, noch nicht eingelöst haben". Vertrauen lasse sich nicht durch Rhetorik zurückgewinnen: "Was funktionieren wird, ist, tatsächlich Krebs zu heilen", so Amodei.
Politisch positioniert sich der CEO klar: Er unterstützt eine zentrale KI-Aufsicht nach dem Vorbild der US-Finanzaufsicht FINRA. Die richtigen "Verkehrsregeln" könnten zugleich Cyber-, Bio- und Alignment-Risiken adressieren, die Macht der Frontier-KI-Firmen institutionell begrenzen und Raum für Open-Weights-Modelle lassen, schrieb er in einem Austausch mit Kaliforniens Gouverneur Gavin Newsom.
Der Vorstoß fällt in eine Phase messbar sinkenden Vertrauens: Eine aktuelle Umfrage von CNBC und Generation Lab unter über 1.000 jungen US-Erwachsenen (18–34) ergab, dass 69 Prozent OpenAI-Chef Sam Altman beim Thema KI-Governance misstrauen; bei Elon Musk sind es 70, bei Mark Zuckerberg 71 Prozent.
Amodei widerspricht damit auch dem Argument, Regulierung konzentriere zwangsläufig Macht. Sein Punkt: Ehrlichkeit über Risiken sei "in der Sache richtig" und für die Glaubwürdigkeit mindestens so gut wie eine Strategie des Ablenkens.
Häufige Fragen
Was fordert Dario Amodei konkret?
Eine zentrale KI-Aufsichtsinstanz nach dem Modell der US-Finanzaufsicht FINRA, die Risiken adressiert, die Macht großer KI-Firmen begrenzt und Open-Weights-Modelle weiter ermöglicht.
Warum spricht er von einer Vertrauenskrise?
Laut Amodei misstrauen normale Menschen Unternehmen, Regierungen und der Tech-Branche grundsätzlich – Umfragen zeigen, dass Mehrheiten junger Amerikaner den führenden KI-CEOs misstrauen.
Wie will er Vertrauen zurückgewinnen?
Nicht durch PR, sondern durch belegbare Ergebnisse – Amodei nennt als Maßstab, "tatsächlich Krebs zu heilen", also messbaren gesellschaftlichen Nutzen.
