OpenAI fordert internationale KI-Standards für RSI
Der Konzern will, dass die USA globale Messverfahren, Meldewege für Vorfälle und Aufsichtsregeln für automatisierte KI-Forschung anführen.
Kurz gesagt
OpenAI fordert internationale technische Standards für rekursive KI-Selbstverbesserung und schlägt vor, dass die USA diese Standards anführen.
Auf einen Blick
- OpenAI: Vollständig autonome rekursive Selbstverbesserung findet heute nicht statt.
- RSI solle nicht verfolgt werden, solange sie nicht sicher durchführbar ist.
- Vier Bausteine: gemeinsame Messverfahren, Vorfallmeldungen, Aufsichtsregeln, Ausbau bestehender KI-Sicherheitsinstitute.
- Als Vorbilder nennt OpenAI Luftfahrt, Kernenergie und Cybersicherheit.
- Im Juli betraf ein Sicherheitsvorfall bei Hugging Face unveröffentlichte OpenAI-Modelle.
OpenAI fordert internationale technische Standards für rekursive Selbstverbesserung von KI – also für Systeme, die die nächste KI-Generation weitgehend selbst entwickeln – und schlägt vor, dass die USA diesen Prozess anführen.
Was OpenAI unter RSI versteht
Rekursive Selbstverbesserung, kurz RSI, beschreibt KI-Systeme, die eigenständig an ihren Nachfolgern arbeiten. Vollständig autonom geschehe das heute nicht, betont OpenAI. Ohne ausreichende Schutzmechanismen könne KI jedoch gefährlicher und schlechter ausgerichtet werden und damit insgesamt zu einem Risiko für Menschen. Entsprechend solle RSI nicht verfolgt werden, solange sie nicht sicher durchführbar ist.
Vier Bausteine für die Aufsicht
Der Vorschlag benennt vier Bausteine: gemeinsame Verfahren zum Messen von Fähigkeiten und Risiken, ein System zum Melden von Vorfällen, Regeln für menschliche Aufsicht über automatisierte KI-Forschung und den Ausbau bereits bestehender nationaler KI-Sicherheitsinstitute.
Anknüpfen will OpenAI dabei an CAISI, ein Netzwerk für Messung, Evaluierung und Wissenschaft fortgeschrittener KI, sowie an Normungsarbeit im Rahmen der ISO.
Warum die USA führen sollen
Die USA sollten führen, weil ihre KI-Industrie an der technischen Front stehe, argumentiert OpenAI. Bleibe diese Führung aus, sehe Washington zu, wie sich ein fragmentiertes, ungleiches und konfliktreiches System etabliere. Als Vorbilder nennt der Konzern die Governance von Luftfahrt, Kernenergie und Cybersicherheit – Felder mit etablierten gemeinsamen Normen über Ländergrenzen hinweg.
Der Vorfall bei Hugging Face
Im Juli betraf ein Sicherheitsvorfall bei Hugging Face unveröffentlichte OpenAI-Modelle aus der Testphase. Der Vorfall sei kein direktes Ergebnis von RSI, schreibt OpenAI, aber ein Vorgeschmack auf Risiken, die deutlich schwerer ausfallen könnten. Auch Anthropic und Google meldeten Sicherheitsvorfälle mit eigenen Modellen.
Einordnung in die laufende Debatte
Der Vorstoß fällt in eine Woche mit UN-Generalversammlung und einer von Frankreich organisierten Sitzung des UN-Sicherheitsrats, in der OpenAI-Chef Sam Altman sprechen soll. Anthropic-Chef Dario Amodei hatte in einem Essay zu Vorsicht und Verlangsamung aufgerufen, Elon Musk unterstützte das.
Demis Hassabis von Google DeepMind plädierte für ein von den USA geführtes globales Regulierungsgremium, UN-Generalsekretär António Guterres für koordiniertes internationales Handeln. US-Präsident Donald Trump wies Warnungen vor KI-Risiken dagegen als Hoax zurück. Ein UN-Wissenschaftsgremium hatte zuletzt ähnliche Bedenken zu Schwärmen autonomer Agenten geäußert.
Was offen bleibt
Ob die vorgeschlagenen Standards verbindlich wären, wer sie durchsetzen würde und in welchem Zeitrahmen sie entstehen sollen, geht aus den vorliegenden Berichten von The Decoder und TechXplore nicht hervor. Auch der genaue Umfang der Aufsichtsregeln für automatisierte KI-Forschung bleibt in beiden Berichten unbestimmt.
Häufige Fragen
Was ist rekursive Selbstverbesserung bei KI?
Damit sind KI-Systeme gemeint, die eigenständig die nächste KI-Generation entwickeln. OpenAI betont, dass dies vollständig autonom heute nicht stattfindet.
Was fordert OpenAI konkret?
Gemeinsame Messverfahren, ein Meldesystem für Vorfälle, Regeln für menschliche Aufsicht über automatisierte KI-Forschung und den Ausbau bestehender KI-Sicherheitsinstitute.
Warum sollen die USA die Standards anführen?
Weil die US-KI-Industrie laut OpenAI an der technischen Front steht. Ohne diese Führung drohe ein fragmentiertes, ungleiches und konfliktreiches System.
