Google DeepMind gründet Institut für die AGI-Debatte
Shane Legg, James Manyika und Demis Hassabis starten das DeepMind Institute mit vier Essays – und laden ausdrücklich Widerspruch ein.
Kurz gesagt
Google DeepMind hat mit dem DeepMind Institute eine Plattform gegründet, auf der Fachleute aus Technik, Geistes- und Sozialwissenschaften sowie Politik öffentlich über den Weg zur AGI streiten sollen.
Auf einen Blick
- Direktoren des DeepMind Institute: Shane Legg, James Manyika und Demis Hassabis.
- Auftakt mit vier Essays: Wirtschaftspolitik, lesbare Modell-Begründungen, menschliches Aufblühen, Bewertung von Frontier-Modellen.
- Hassabis schlägt eine US-geführte Normungsstelle vor, der Labore neue Modelle freiwillig 30 Tage vor Veröffentlichung vorlegen.
- Shane Legg hält einen AGI-Vorläufer bis 2028 für möglich – mit rund 50 Prozent Wahrscheinlichkeit.
- Budget, Personalstärke und ein mögliches Fellowship-Programm nennen beide ausgewerteten Quellen nicht.
Google DeepMind hat das DeepMind Institute gegründet – eine Einrichtung, die den Streit über künstliche allgemeine Intelligenz aus dem Labor heraus und in eine breitere Öffentlichkeit tragen soll. Geleitet wird sie von DeepMind-Mitgründer Shane Legg, dem Google-Manager James Manyika und DeepMind-Chef Demis Hassabis. Die Ankündigung formuliert das Ziel ungewöhnlich offen: Sie will unterschiedliche Sichtweisen zwischen Google, Google DeepMind und der weltweiten Forschungsgemeinschaft sichtbar machen.
Widerspruch ist eingeplant
Bemerkenswert ist, wie wenig Einigkeit das Institut verspricht. Die Beteiligten würden nicht immer übereinstimmen und ihre Meinung wahrscheinlich ändern, sobald an der schnelllebigen Forschungsfront neue Daten auftauchten, heißt es zum Start – im Original: „They will not always agree.“ Für ein Konzernprojekt ist das eine ungewöhnliche Erwartungshaltung, weil es Uneinigkeit nicht als Betriebsunfall behandelt, sondern als Zweck.
Inhaltlich soll die Debatte nicht bei Technikerinnen und Technikern enden. Kunst, Geisteswissenschaften und Politik sollen laut den Gründern gleichberechtigt mitreden, wenn es um Sicherheit, Steuerung und Risiken wie Cyberangriffe oder Kontrollverlust geht.
Vier Essays zum Auftakt
Statt eines Manifests steht am Anfang eine Sammlung von vier Essays. Sie behandeln Wirtschaftspolitik im Umgang mit AGI-bedingten Verwerfungen, den Erhalt für Menschen lesbarer Modell-Begründungen, Prinzipien für menschliches Aufblühen und einen Rahmen zur Bewertung von Frontier-Modellen.
Namentlich zugeordnet sind bislang zwei davon: Die DeepMind-Sicherheitsforschenden Rohin Shah und Anca Dragan schreiben über Transparenz und die Grenzen undurchsichtiger serieller Tiefe in modernen Architekturen. Ihr Punkt ist praktisch: Neuere Bauweisen machen Modelle schwerer beobachtbar – ein Problem für Entwickler und Aufsicht gleichermaßen.
30 Tage Vorlauf vor dem Release
Den konkretesten Vorschlag macht Hassabis selbst. Er plädiert für eine von den USA geführte Normungsstelle für Frontier-KI, der Labore neue Modelle freiwillig 30 Tage vor der Veröffentlichung zur Prüfung vorlegen. Das ist ein Vorschlag, keine Zusage – weder ist die Stelle beschlossen noch hat sich ein Labor darauf verpflichtet.
Er passt allerdings zu einer Verschiebung, die sich derzeit beobachten lässt: Die Sicherheitsdebatte bewegt sich weg von allgemeinen Bekenntnissen und hin zu konkreten Mechanismen – Offenlegung, externe Prüfung und, falls die Absicherung zurückfällt, ein abgestimmtes Tempo-Drosseln.
Streit über den Zeitplan
Wie weit die Positionen auseinanderliegen, zeigt schon der Zeithorizont. Legg hat zuletzt einen Vorläufer bis 2028 für denkbar gehalten und die Wahrscheinlichkeit für eine minimale AGI zu diesem Zeitpunkt auf rund 50 Prozent beziffert. Hassabis spricht von einigen Jahren. OpenAI-Chef Sam Altman hält AGI dagegen schon bis Ende 2026 für möglich – bei einem Unternehmen, das den Begriff stärker über wirtschaftlichen Nutzen definiert.
Was offen bleibt
Die beiden ausgewerteten Berichte nennen weder ein Budget noch eine Personalstärke oder ein Fellowship-Programm. Auch die Autorenschaft von zwei der vier Essays bleibt dort offen. Ob das Institut über die Essay-Sammlung hinaus einen festen Publikationsrhythmus bekommt, ist aus diesen Quellen ebenfalls nicht belegt.
Ein Interessenkonflikt liegt trotzdem auf der Hand und wird in den Berichten nicht diskutiert: Ein von Google finanziertes Institut schlägt Regeln für einen Markt vor, auf dem Google selbst zu den größten Anbietern zählt.
Häufige Fragen
Was ist das DeepMind Institute?
Eine von Google DeepMind gegründete Plattform für interdisziplinäre Forschung und Debatte über künstliche allgemeine Intelligenz. Sie startet mit vier Essays zu Wirtschaftspolitik, Modell-Transparenz, menschlichem Aufblühen und der Bewertung von Frontier-Modellen.
Wer leitet das DeepMind Institute?
Als Direktoren genannt werden DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und DeepMind-Chef Demis Hassabis.
Was schlägt Demis Hassabis zur Regulierung vor?
Eine von den USA geführte Normungsstelle für Frontier-KI. Labore sollen ihre neuen Modelle dort freiwillig 30 Tage vor der Veröffentlichung einreichen. Umgesetzt ist das bislang nicht.
