Vinyals: KI-Selbstverbesserung ja, Explosion nein
Der frühere Deepmind-Forschungschef erwartet mindestens zehnfach schnellere KI-Forschung – zwei Engstellen verhindern laut ihm aber den abrupten Sprung.
Kurz gesagt
Oriol Vinyals hält rekursive Selbstverbesserung von KI für realistisch, aber für einen graduellen Prozess, weil Ideenfindung und verlässliche Auswertung als Engstellen eine plötzliche Intelligenzexplosion verhindern.
Auf einen Blick
- Vinyals sprach auf dem Agentic AI Summit 2026, wenige Tage nach seinem Abschied von Google Deepmind.
- Selbstverbesserung braucht vier Schritte: Idee, Code, Experiment, verlässliche Bewertung. Stark ist KI vor allem in der Mitte.
- Prognose: Forschungs- und Engineering-Aufgaben um den Faktor zehn oder mehr schneller – aber keine abrupte Explosion.
- Benchmarks wie SWE-Bench Pro und ML-Bench messen laut Vinyals nur Hilfsgrößen, nicht die Selbstverbesserung selbst.
- Neues Start-up Discovery Loop: Jeff Dean als CEO, dazu Sanjay Ghemawat, Quoc Le und Vinyals.
Rekursive Selbstverbesserung kommt, sie kommt aber nicht über Nacht. Das ist die Kernaussage von Oriol Vinyals, der bis vor Kurzem die Forschung bei Google Deepmind mitverantwortete und wenige Tage nach seinem Abschied auf dem Agentic AI Summit 2026 sprach. Er beschreibt Selbstverbesserung als Kreislauf aus vier Schritten: eine Idee finden, sie in Code gießen, das Experiment fahren, das Ergebnis verlässlich bewerten.
Stark in der Mitte, schwach an den Rändern
Die beiden mittleren Schritte beherrschen heutige Systeme laut Vinyals gut. Code schreiben und Experimente durchziehen sei weitgehend gelöst. Schwach bleibt die Kette dort, wo sie beginnt und wo sie endet – und genau dort verortet er die zwei Engstellen, die aus seiner Sicht über das Tempo entscheiden.
Engstelle eins: "Research Taste"
Die erste nennt Vinyals Research Taste: das Gespür dafür, welche Idee überhaupt verfolgt werden sollte. Gemeint sind Qualitäten wie Originalität, Eleganz und Effizienz, an denen sich entscheidet, ob ein Ansatz einer genaueren Prüfung standhält. Im LLM-Training habe bislang niemand ernsthaft untersucht, wie sich dieses Gespür beibringen lässt.
Engstelle zwei: Die Messung selbst
Die zweite Engstelle ist die Auswertung. Benchmarks wie SWE-Bench Pro oder ML-Bench prüfen Umsetzung und Experiment ordentlich, messen aber Hilfsgrößen statt der Selbstverbesserung selbst. Vinyals warnt vor dem bekannten Muster: Systeme nutzen die Zielvorgabe unerwartet aus und schlagen das Bewertungsschema, statt das eigentliche Problem zu lösen. Ohne verlässliches Maß fehlt der Schleife die Rückkopplung, die sie erst beschleunigen würde.
Physik setzt die harte Grenze
Dazu kommt die Hardware. Chips rechnen nicht schneller, als ihr Design und die Lichtgeschwindigkeit es zulassen. Diese Schranke gilt unabhängig davon, wie gut ein Modell seine eigenen Nachfolger entwirft.
Discovery Loop soll die Schleife automatisieren
Parallel arbeitet Vinyals an genau diesem Problem: Mit Jeff Dean als CEO sowie Sanjay Ghemawat und Quoc Le hat er das Start-up Discovery Loop gegründet. Ziel ist es, den wissenschaftlichen Experimentierzyklus zu automatisieren, zunächst für die KI-Forschung selbst und später für andere Felder. In der Anfangsphase sollen Mensch und Maschine Hypothesen gemeinsam entwickeln, weil die Ideenfindung der schwierigste Teil bleibt.
Was der Bericht nicht hergibt
Die Darstellung stützt sich auf die Berichterstattung eines einzigen Mediums über den Vortrag; eine unabhängige zweite Redaktion lag zum Redaktionsschluss nicht vor. Angaben zu Finanzierung, Teamgröße oder einem Zeitplan von Discovery Loop nennt der Bericht nicht. Auch die Angabe "Faktor zehn oder mehr" ist eine Einschätzung von Vinyals, keine gemessene Größe.
Häufige Fragen
Was meint Oriol Vinyals mit "Research Taste"?
Das Gespür dafür, welche Forschungsidee verfolgenswert ist – bewertet nach Originalität, Eleganz und Effizienz. Laut Vinyals ist bislang ungeklärt, wie man es einem Sprachmodell beibringt.
Warum hält Vinyals eine Intelligenzexplosion für unwahrscheinlich?
Weil zwei Schritte der Schleife klemmen: die Ideenfindung und die verlässliche Bewertung von Ergebnissen. Dazu kommen physikalische Grenzen der Chips, die sich nicht wegoptimieren lassen.
Was ist Discovery Loop?
Ein Start-up, das Vinyals mit Jeff Dean (CEO), Sanjay Ghemawat und Quoc Le gegründet hat. Es will den wissenschaftlichen Experimentierzyklus automatisieren, beginnend bei der KI-Forschung.
