Newsom-Dekret: Kalifornien prüft KI-Notschalter
Unterzeichnet, aber ohne Auflage: Bis zum 16. November 2026 soll ein Bericht klären, ob sich fortgeschrittene KI-Modelle im Ernstfall anhalten lassen.
Kurz gesagt
Newsom hat kein Notschalter-Gebot erlassen, sondern eine Machbarkeitsprüfung angeordnet, deren Bericht bis zum 16.11.2026 vorliegen muss.
Auf einen Blick
- Unterzeichnet am 18.09.2026 — ein Dekret ohne sofortige Auflagen für KI-Anbieter.
- Berichtsfrist 16.11.2026, also rund zwei Monate nach der Unterzeichnung.
- Geprüft werden auch unabhängige Auditoren in den Laboren und eine Meldepflicht für Kontrollverlust-Vorfälle.
- Newsoms Begründung: Kein Bundesgesetz zwingt KI-Firmen, gefährliche Vorfälle zu melden.
- 2025 erließ Kalifornien ein KI-Sicherheitsgesetz; 2024 scheiterte ein separater Entwurf am Veto des Gouverneurs.
Gouverneur Gavin Newsom hat am 18.09.2026 ein Dekret unterzeichnet, das keinen Notschalter vorschreibt, sondern dessen Machbarkeit prüfen lässt. Behörden des Bundesstaats sollen bis zum 16.11.2026 berichten, ob sich fortgeschrittene KI-Modelle im Ernstfall überhaupt zuverlässig anhalten lassen. Bindende Auflagen für Unternehmen entstehen daraus vorerst nicht.
Drei Fragen an den Bundesstaat
Der Auftrag umfasst drei Punkte. Erstens den Notschalter selbst — gemeint ist die Fähigkeit, ein KI-System zu stoppen, wenn es als fehlerhaft oder außer Kontrolle geraten gilt. Zweitens die Frage, ob Anbieter unabhängige Prüferinnen und Prüfer in ihren eigenen Laboren aufnehmen müssten. Drittens eine Meldepflicht für Vorfälle, bei denen die Kontrolle über ein Modell verloren geht.
Ob aus den Empfehlungen später Gesetze oder Verordnungen werden, legt das Dekret nicht fest. Es setzt eine Frist, keine Rechtsfolge.
Newsoms Begründung ist eine Lücke im Bundesrecht
Der Gouverneur zielt weniger auf Sacramento als auf Washington. Kein Bundesgesetz verpflichte KI-Firmen, gefährliche Vorfälle zu melden; das vollständige Versagen der Bundesebene, überhaupt eine wirksame Aufsicht zu schaffen, müsse „jeden Amerikaner alarmieren“ — gerade weil die Chefs der KI-Konzerne selbst um Regulierung bäten. Laut The Decoder verband Newsom das mit dem Appell an den Kongress, Kaliforniens bestehende Regeln als nationale Untergrenze zu übernehmen.
Der politische Rahmen
Das Dekret ist auch eine Antwort auf Präsident Donald Trump, der Sicherheitsbedenken rund um KI als Schwindel abgetan hat. Newsom gilt als möglicher Präsidentschaftskandidat der Demokraten für 2028, was der Unterzeichnung ein nationales Publikum verschafft. Rückendeckung kommt ausgerechnet aus der Branche: Sam Altman, Elon Musk und Demis Hassabis haben regulatorische Schritte unterstützt, und Anthropic-Chef Dario Amodei fordert, das Tempo beim Ausbau der Modellfähigkeiten zu drosseln.
Kalifornien hat hier eine Vorgeschichte
2025 erließ der Bundesstaat ein KI-Sicherheitsgesetz, das sich an die großen Technologiekonzerne richtet. 2024 brachte das Parlament ebenfalls ein Sicherheitsgesetz durch, während ein separater Entwurf am Veto des Gouverneurs scheiterte. Hinzu kommen kalifornische Regeln zu Kinderschutz, Deepfakes, Datenschutz und Cybersicherheit.
Was die Quellen offenlassen
Aus den vorliegenden Berichten geht nicht hervor, wer dem Gremium angehört, welches Budget es hat und ob der Bericht am 16.11.2026 veröffentlicht wird. Auch eine Schwelle dafür, ab wann ein Modell als „fortgeschritten“ gilt, nennen die Quellen nicht — obwohl genau diese Linie entscheiden würde, für wen eine spätere Pflicht überhaupt gälte. Bis der Bericht vorliegt, bleibt der Notschalter eine Prüffrage mit Termin.
Häufige Fragen
Hat Kalifornien einen KI-Notschalter beschlossen?
Nein. Das Dekret vom 18.09.2026 ordnet eine Machbarkeitsprüfung an; eine Pflicht für KI-Anbieter entsteht daraus zunächst nicht.
Bis wann muss der Bericht zum KI-Notschalter vorliegen?
Bis zum 16.11.2026, also rund zwei Monate nach der Unterzeichnung des Dekrets.
Was ist mit einem Notschalter für KI-Modelle gemeint?
Die Fähigkeit, ein KI-System anzuhalten, sobald es als fehlerhaft oder außer Kontrolle geraten eingestuft wird.
