Lemony AI: Lokale KI-Lösungen für Unternehmen

LONDON (IT BOLTWISE) – Uptime Industries hat mit Lemony AI eine innovative Lösung entwickelt, um die Nutzung von Künstlicher Intelligenz (KI) in Unternehmen zu fördern, die auf lokale Datenverarbeitung setzen.

Uptime Industries setzt mit Lemony AI auf eine lokale KI-Infrastruktur, die Unternehmen eine datenschutzfreundliche Alternative zu cloudbasierten Lösungen bietet. Die kompakte Einheit, die in etwa die Größe eines Sandwiches hat, kann große Sprachmodelle (LLM), KI-Agenten und KI-Workflows auf einem einzigen Knoten ausführen. Mit einem Energieverbrauch von nur 65 Watt, vergleichbar mit dem Laden eines Laptops, lässt sich Lemony AI stapeln und zu größeren KI-Clustern verbinden. Sascha Buehrle, Mitbegründer und CEO von Uptime, erklärt, dass jeder Knoten ein LLM mit bis zu 75 Milliarden Parametern unterstützen kann und sowohl Open-Source-Modelle als auch angepasste Versionen geschlossener Modelle hosten kann. In einem Cluster von Lemony-Knoten kann jedes Gerät ein anderes Modell ausführen. Uptime startet mit Partnerschaften mit IBM und JetBrains, um seinen Kunden einen einfacheren Zugang zu KI-Modellen zu ermöglichen, einschließlich der geschlossenen Modelle von IBM. Die Idee für Lemony AI entstand aus einem Nebenprojekt der Mitbegründer Buehrle und Ivan Kuleshov, die versuchten, Sprachmodelle auf Raspberry Pi-Mikrocomputern zu verteilen. Als sie feststellten, dass die Ausführung von Modellen auf lokalen Geräten der Schlüssel zur Förderung der KI-Adoption durch Unternehmen sein könnte, begannen sie, ein eigenes Gerät zu entwickeln. Sie erkannten, dass ein kleiner, datenschutzorientierter Ansatz Unternehmen dazu bringen könnte, KI schneller zu übernehmen. Buehrle betont, dass es wichtig sei, etwas Kleines zu bauen, das leicht in Teams integriert werden kann und keine unternehmensweite Entscheidungsfindung erfordert. Die Nachfrage nach Lemony AI ist besonders in stark regulierten Branchen wie Finanzen, Gesundheitswesen und Recht hoch. Der Vorteil liegt darin, dass alle Daten im Gerät bleiben, was den Datenschutz erheblich verbessert. Uptime hat bisher 2 Millionen US-Dollar in einer Seed-Finanzierungsrunde unter der Leitung von True Ventures gesammelt, mit Beteiligung von Alumni Ventures, JetBrains und einigen Angel-Investoren. Das Unternehmen plant, die Software Lemony OS, die für seine Mikro-KI-Computer entwickelt wurde, auch auf andere Hardware wie die NVIDIA DGX Spark zu übertragen und die Software von einem Einzelbenutzerfokus auf eine teamfähige Lösung zu erweitern. Lemony AI kostet 499 US-Dollar pro Monat und kann von bis zu fünf Nutzern gleichzeitig genutzt werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!