Sakana AI: Zusammenarbeit von LLMs zur Lösung komplexer Aufgaben

TOKIO / LONDON (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz gibt es immer wieder neue Ansätze, die die Art und Weise, wie Maschinen lernen und arbeiten, revolutionieren. Ein solcher Ansatz kommt aus Japan, wo das Forschungsunternehmen Sakana AI mit seinem neuen Verfahren Tree Quest für Aufsehen sorgt.

Das japanische Unternehmen Sakana AI hat mit Tree Quest ein innovatives Verfahren entwickelt, das große Sprachmodelle (LLMs) nicht gegeneinander, sondern miteinander arbeiten lässt. Diese Methode orchestriert mehrere spezialisierte LLMs, die jeweils ihre eigenen Stärken einbringen, um gemeinsam komplexe Aufgaben zu lösen. Laut Branchenberichten konnte die Leistung im Vergleich zur Verwendung einzelner Modelle um bis zu 30 Prozent gesteigert werden.

Sakana AI, ein Forschungslabor mit Sitz in Tokio, hat sich auf die Entwicklung neuartiger KI-Modelle spezialisiert. Das Unternehmen, das 2023 gegründet wurde, machte bereits mit der Darwin-Gödel-Maschine Schlagzeilen, einer KI, die in der Lage ist, sich selbst zu optimieren, indem sie ihren eigenen Code umschreibt. Mit Tree Quest präsentiert Sakana AI nun ein weiteres Verfahren, das die KI-Forschung maßgeblich vorantreiben könnte.

Die Methode basiert auf einem neuen Algorithmus namens Multi-LLM AB-MCTS (Adaptive Branching Monte Carlo Tree Search). Dabei entscheiden die Modelle dynamisch, welcher Teil der Aufgabe von welchem LLM übernommen werden soll. Diese Entscheidung fällt auf das Sprachmodell, das sich im Verlauf als besonders effektiv erweist. Dies ermöglicht eine intelligente und flexible Aufgabenverteilung, die die Stärken der einzelnen Modelle optimal nutzt.

In der KI-Entwicklung lag der Fokus bisher vor allem auf dem sogenannten Training-Time Scaling, bei dem größere Modelle mit mehr Rechenleistung und größeren Datensätzen trainiert werden, um die Leistung zu steigern. Sakana AI setzt stattdessen auf das Inference-Time-Scaling, das darauf abzielt, mehr Leistung aus einem bereits trainierten Modell herauszuholen. Um dies zu erreichen, werden Techniken wie das Chain-of-Thought-Reasoning und wiederholtes Sampling eingesetzt.

Besonders spannend ist, dass die eingesetzten LLMs selbst entscheiden können, ob sie eine vielversprechende Antwort weiterverfolgen oder lieber neue Ansätze ausprobieren möchten. Diese Art der Entscheidungsfindung ermöglicht eine dynamische Anpassung an die jeweilige Aufgabe und fördert die Zusammenarbeit der Modelle.

Getestet wurde das System auf dem anspruchsvollen ARC-AGI-2-Benchmark, der menschenähnliche Problemlösefähigkeiten erfordert. Das Multi-LLM-Team, bestehend aus Modellen wie o4-mini, Gemini 2.5 Pro und Deepseek-R1, erzielte in den insgesamt 120 Tests über 30 Prozent korrekte Lösungen. Einzelne Modelle schnitten im Vergleich dazu deutlich schlechter ab.

Die Ergebnisse von Sakana AI legen nahe, dass sich durch die Zusammenarbeit verschiedener großer Sprachmodelle deutlich bessere Ergebnisse erzielen lassen. Über den ARC-AGI-2-Benchmark hinaus konnte Tree Quest auch erfolgreich auf Aufgaben wie komplexe algorithmische Codierung und die Verbesserung der Genauigkeit von Modellen für maschinelles Lernen angewendet werden.

Um Entwickler:innen und Unternehmen bei der Anwendung dieser neuen Methode zu unterstützen, hat das Forschungslabor den zugrunde liegenden Algorithmus auch als Open-Source-Framework veröffentlicht. Dies ermöglicht eine breite Anwendung und Weiterentwicklung der Methode in der Praxis.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!