LONDON (IT BOLTWISE) – Aleph Alpha stellt mit Kolibri-1 ein Open-Weights-Sprachmodell für lange Dokumente bereit, das Deutsch und Englisch zusammenführt. Das Modell nutzt eine Mixture-of-Experts-Architektur und aktiviert pro Token nur einen Teil der Expertenkapazität. So sinkt der Rechenaufwand, während die Gesamtparameterzahl bei 78 Milliarden liegt. Für den praktischen Einsatz zielt Aleph Alpha vor allem auf Chatbots, Dokumentenverarbeitung und RAG-Workflows.
Kolibri-1 verschiebt den Fokus von „groß“ auf „effizient nutzbar“: Das Open-Weights-Sprachmodell von Aleph Alpha ist auf die Verarbeitung langer Dokumente ausgelegt und deckt dabei sowohl Deutsch als auch Englisch ab. Mit 78 Milliarden Parametern wirkt das Modell auf dem Papier wie ein klassischer Big-Model-Ansatz, technisch geht es jedoch einen anderen Weg. Die zentrale Idee ist die Mixture-of-Experts-Architektur, bei der das System nicht die gesamte Modellkapazität für jeden Token aktiviert, sondern nur einen selektiven Teil. Genau diese Mechanik soll Rechenkosten drücken, ohne die Leistungsfähigkeit beim Umgang mit langen Kontexten zu opfern.
Der „Long-Document“-Schwerpunkt zeigt sich in der Trainings- und Kontextgestaltung. Kolibri wurde in mehreren Phasen auf großen Datenmengen trainiert: Für das Pretraining nutzte das Team 20 Billionen Tokens aus einem gefilterten, zweisprachigen Korpus. Laut Dokumentation flossen dafür Webdaten, synthetische Umformulierungen sowie hochwertige Quellen zusammen; in der anschließenden Mid-Training-Phase kamen weitere 3,44 Billionen Tokens hinzu. Zusätzlich wurden 201 Milliarden Tokens in der Phase zur Erweiterung der Kontextlänge eingesetzt. Die Datenverteilung lag dabei bei rund 62,5 Prozent Englisch, 23,9 Prozent Deutsch und 13,6 Prozent Code. Auch die Sequenzlängen sind klar abgestuft: Pretraining auf 16.384 Tokens, Mid-Training auf 65.536 Tokens und finales Training auf 262.144 Tokens im nativen Kontextfenster.
Damit nicht genug, wird Kolibri-1 offenbar auch für „darüber hinaus“ gedacht: Theoretisch lässt sich das Modell ohne Position Scaling weiter erweitern; validiert wurde die Leistung bis zu 1.048.576 Tokens. Ob diese Reichweite im Produktivbetrieb immer ähnlich robust bleibt, hängt in der Praxis stark von Prompting, Dokumentstruktur und Ausgabepolitik ab, aber die Richtung ist eindeutig. Architekturseitig kommt Kolibri-1 auf 50 Transformer-Layer. Pro Layer sind 384 Experten vorgesehen, wobei ein Experte für alle Tokens gemeinsam aktiv ist und sechs weitere pro Token zugeschaltet werden. Das ergibt eine Größenordnung von rund 3,46 Milliarden aktiven Parametern pro Token, obwohl das Modell insgesamt 78 Milliarden Parameter umfasst. Der Haken bleibt: Auch wenn pro Token weniger gerechnet wird, muss das vollständige Modell im Speicher verfügbar sein, was die Hosting-Anforderungen hoch hält.
Für Entwickler und Anwender wird neben der Effizienz vor allem der Funktionsumfang relevant. Kolibri unterstützt einen expliziten Reasoning-Modus, bei dem Nutzer zwischen niedrigem, mittlerem und hohem Denkaufwand wählen oder das Reasoning komplett deaktivieren können. Das ist für Use-Cases entscheidend, bei denen man zwischen schneller Extraktion und anspruchsvollerer Problemlösung abwägen will. Zusätzlich beherrscht das Modell Tool Calling. Damit kann es strukturierte Informationen extrahieren, über APIs Daten abrufen und Code ausführen. Solche Fähigkeiten sind in der Praxis häufig der Unterschied zwischen einem „Chatbot, der erklärt“ und einem System, das konkrete Arbeitsschritte automatisiert. Auch beim Training wurden dafür gezielt Datensätze erstellt, darunter Retrieval-Augmented Generation, agentisches Tool Calling und die Verarbeitung langer Dokumente in beiden Sprachen.
Dass ein Modell dieser Größe nicht nur Rechenleistung, sondern auch Energie- und Infrastrukturplanung erfordert, unterstreicht der veröffentlichte Trainingsaufwand. Der Trainingsprozess verbrauchte geschätzt 950 Megawattstunden Energie – inklusive Node-Leistung und Rechenzentrums-Overhead. Das Pretraining lief auf 768 NVIDIA B200-GPUs über 96 HGX-Nodes hinweg und dauerte 21 Tage. Solche Zahlen sind für die Marktkommunikation wichtig, aber noch wichtiger ist die Konsequenz für Betreiber: Wer Kolibri-1 produktiv betreibt, muss nicht nur GPU-Kapazität, sondern auch Speicherbandbreite, Modell-Serving-Strategien und Stabilität über lange Kontextfenster hinweg mitdenken. Gleichzeitig eröffnet die Open-Weights-Verfügbarkeit mehr Optionen bei On-Prem- oder Private-Cloud-Deployments, insbesondere für Unternehmen, die eine feinere Kontrolle über Datenflüsse und Modellkonfigurationen benötigen.
Veröffentlicht wurde Kolibri-1 am 3. Oktober 2026 unter der Apache-2.0-Lizenz, was die Hürde für Integration und Anpassungen senkt – vom eigenen Fine-Tuning bis zur Einbettung in bestehende Pipelines für Dokumentenanalysen. Aleph Alpha positioniert das Modell ausdrücklich für Chatbots, Dokumentenverarbeitung und RAG-Workflows. Politisch und infrastrukturell flankiert wird die Strategie zudem durch die Übernahme von Aleph Alpha durch das kanadische Unternehmen Cohere. Bundesdigitalminister Karsten Wildberger erklärte am 24. April 2026: „So entsteht eine echte Alternative – made in Germany, made in Canada.“ Als Teil der Infrastruktur soll außerdem die Rechenzentrumslandschaft von Schwarz Digits die Basis für den Einsatz der KI-Systeme von Cohere bereitstellen; Schwarz Digits gilt dabei mit einem Anteil von über 20 Prozent als wichtiger Investor von Aleph Alpha. Für die Branche bleibt die zentrale Frage, wie schnell sich die Tool-Calling- und Long-Context-Fähigkeiten in realen Unternehmens-Workflows durchsetzen – und ob die Effizienzgewinne durch die MoE-Architektur dort spürbar werden, wo lange Dokumente, hohe Nutzerlast und strikte Betriebsfenster zusammenkommen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Aleph Alpha veröffentlicht Kolibri-1: Open-Weights-KI mit 78 Mrd. Parametern" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Aleph Alpha veröffentlicht Kolibri-1: Open-Weights-KI mit 78 Mrd. Parametern" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Aleph Alpha veröffentlicht Kolibri-1: Open-Weights-KI mit 78 Mrd. Parametern« bei Google Deutschland suchen, bei Bing oder Google News!