Alibaba entwickelt kosteneffiziente KI-Suchtechnologie

MÜNCHEN (IT BOLTWISE) – Alibaba hat eine neue Methode entwickelt, die die Kosten und Komplexität bei der Schulung von KI-Systemen zur Informationssuche drastisch reduzieren könnte.

Alibaba hat mit der Einführung von “ZeroSearch” einen bedeutenden Fortschritt in der KI-Entwicklung erzielt. Diese innovative Methode ermöglicht es großen Sprachmodellen, fortschrittliche Suchfähigkeiten zu entwickeln, ohne auf teure kommerzielle Suchmaschinen-APIs angewiesen zu sein. Die Technik basiert auf einem Simulationsansatz, der es Unternehmen ermöglicht, erhebliche API-Kosten zu sparen und gleichzeitig die Kontrolle über den Lernprozess der KI-Systeme zu verbessern.

Die Forscher von Alibaba erklären, dass das Training von KI-Modellen mit Verstärkungslernen häufig eine große Anzahl von Suchanfragen erfordert, was erhebliche API-Kosten verursacht und die Skalierbarkeit einschränkt. ZeroSearch bietet eine Lösung, indem es die Suchfähigkeiten von Sprachmodellen fördert, ohne mit realen Suchmaschinen zu interagieren. Diese Methode könnte die Art und Weise, wie KI-Systeme trainiert werden, grundlegend verändern.

Ein wesentlicher Vorteil von ZeroSearch ist die Möglichkeit, die Qualität der während des Trainings zurückgegebenen Dokumente genau zu kontrollieren. Während herkömmliche Suchmaschinen unvorhersehbare Ergebnisse liefern können, ermöglicht die simulierte Suche den Entwicklern, den Informationsfluss während des Trainings präzise zu steuern. Dies könnte insbesondere für kleinere Unternehmen und Startups von Vorteil sein, die über begrenzte Budgets verfügen.

In umfangreichen Experimenten übertraf ZeroSearch nicht nur die Leistung von Modellen, die mit realen Suchmaschinen trainiert wurden, sondern erreichte auch eine Leistung, die mit Google Search vergleichbar ist. Ein 7-Milliarden-Parameter-Modul erzielte Ergebnisse, die mit Google Search vergleichbar waren, während ein 14-Milliarden-Parameter-Modul es sogar übertraf. Die Kostenersparnis ist erheblich: Die Schulung mit etwa 64.000 Suchanfragen über Google Search würde etwa 586,70 US-Dollar kosten, während die Verwendung eines 14-Milliarden-Parameter-Simulationsmodells auf vier A100-GPUs nur 70,80 US-Dollar kostet.

Diese Entwicklung könnte die KI-Branche erheblich beeinflussen. Bisher erforderte das Training fortschrittlicher KI-Systeme oft teure API-Aufrufe zu Diensten, die von großen Technologieunternehmen kontrolliert werden. ZeroSearch ändert diese Gleichung, indem es KI ermöglicht, die Suche zu simulieren, anstatt tatsächliche Suchmaschinen zu verwenden. Dies könnte die Kosten um fast 90% senken und die fortschrittliche KI-Schulung zugänglicher machen.

Darüber hinaus bietet diese Technik den Entwicklern mehr Kontrolle über den Trainingsprozess. Mit simulierten Suchanfragen können Entwickler genau bestimmen, welche Informationen die KI während des Trainings sieht. Die Technik funktioniert über mehrere Modellfamilien hinweg, einschließlich Qwen-2.5 und LLaMA-3.2, und mit sowohl Basis- als auch instruktionstunierten Varianten. Die Forscher haben ihren Code, Datensätze und vortrainierten Modelle auf GitHub und Hugging Face zur Verfügung gestellt, sodass andere Forscher und Unternehmen den Ansatz implementieren können.

ZeroSearch zeigt, dass KI-Systeme zunehmend anspruchsvolle Fähigkeiten durch Selbstsimulation entwickeln können, anstatt auf externe Dienste angewiesen zu sein. Dies könnte die Wirtschaftlichkeit der KI-Entwicklung verändern und die Abhängigkeit von großen Technologieplattformen verringern. In der Lehre der KI, ohne Suchmaschinen zu suchen, hat Alibaba möglicherweise eine Technologie geschaffen, die traditionelle Suchmaschinen für die KI-Entwicklung weniger notwendig macht.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!