Aleph Alpha veröffentlicht Kolibri als offenes Modell
Das deutsch-englische Mixture-of-Experts-Modell hat 78 Milliarden Parameter, davon rund drei Milliarden aktiv pro Token – frei unter Apache 2.0.
Kurz gesagt
Aleph Alpha hat Kolibri freigegeben, ein deutsch-englisches Mixture-of-Experts-Modell mit 78 Milliarden Parametern, von denen pro Token nur rund drei Milliarden aktiv sind, und stellt die Gewichte unter Apache 2.0 bereit.
Auf einen Blick
- 78 Milliarden Parameter insgesamt, rund drei Milliarden davon aktiv pro Token (Mixture of Experts).
- 21,3 Prozent der Trainingsdaten sind deutsch, zusammengestellt über eine eigene deutsche Datenpipeline.
- Trainiert auf 768 B200-GPUs in Deutschland und Finnland, Kontextfenster bis zu einer Million Token.
- 71 Prozent in deutschen Benchmarks, dabei schnelleres Decoding als GPT OSS A5B, Qwen 3.6 A3B und Gemma 4 A4B.
- Die Gewichte liegen unter Apache 2.0 auf Hugging Face als Aleph-Alpha/Kolibri-1.
Aleph Alpha hat Kolibri freigegeben, ein deutsch-englisches Mixture-of-Experts-Modell mit 78 Milliarden Parametern, von denen pro Token nur rund drei Milliarden aktiv sind. Die Gewichte stehen unter Apache 2.0 auf Hugging Face bereit, als Aleph-Alpha/Kolibri-1. Damit liegt ein Modell dieser Größe offen vor, das gezielt auf Deutsch ausgelegt wurde.
Was an Kolibri technisch zählt
Die Architektur trennt Kapazität von Rechenaufwand: 78 Milliarden Parameter stecken im Modell, angesprochen werden pro Token aber nur etwa drei Milliarden. Das Kontextfenster reicht bis zu einer Million Token. Kolibri erreicht in deutschen Benchmarks 71 Prozent und dekodiert dabei schneller als GPT OSS A5B, Qwen 3.6 A3B und Gemma 4 A4B.
Deutsch als Trainingsschwerpunkt
21,3 Prozent der Trainingsdaten sind deutsch, gesammelt über eine eigens gebaute deutsche Datenpipeline. Für synthetische Trainingsdaten kamen auch chinesische Modelle zum Einsatz – ein Detail, das das Souveränitätsargument weniger geradlinig macht, als es in der Außendarstellung klingt. Trainiert wurde auf 768 B200-GPUs in Deutschland und Finnland.
Wofür das Modell gedacht ist
Als Einsatzfelder nennt Aleph Alpha öffentliche Verwaltung, Luftfahrt und Industrie. Entwickelt wurde Kolibri nach europäischem Recht und mit Blick auf den EU AI Act. Der praktische Hebel für Behörden liegt in der Lizenz: Apache 2.0 erlaubt den Betrieb im eigenen Rechenzentrum, ohne Daten an eine fremde API zu geben.
Was offen bleibt
Mehrere Angaben lassen sich aus der vorliegenden Quelle nicht prüfen. Unklar bleiben die Zahl der Experten, das Trainingsvolumen in Token, der Tokenizer und welche Aufgaben in den genannten 71 Prozent zusammengefasst sind. Eine zweite angefragte Quelle antwortete mit HTTP 403 und war nicht lesbar, ihre Angaben wurden hier bewusst nicht verwendet. Auch zu Kosten, zur Finanzierung der Rechenzeit und zu möglichen Modellvarianten liegen keine belegten Angaben vor.
Quelle der hier genannten Zahlen: The Decoder.
Häufige Fragen
Was ist Kolibri von Aleph Alpha?
Ein deutsch-englisches Mixture-of-Experts-Modell mit 78 Milliarden Parametern, von denen pro Token rund drei Milliarden aktiv sind. Das Kontextfenster reicht bis zu einer Million Token.
Wo kann man die Kolibri-Gewichte herunterladen?
Die Gewichte liegen unter Apache 2.0 auf Hugging Face als Aleph-Alpha/Kolibri-1 und dürfen damit auch im eigenen Rechenzentrum betrieben werden.
Wie gut ist Kolibri auf Deutsch?
Angegeben sind 71 Prozent in deutschen Benchmarks bei schnellerem Decoding als GPT OSS A5B, Qwen 3.6 A3B und Gemma 4 A4B. Welche Einzelaufgaben dahinterstehen, ist nicht belegt.
