Hirundo: KI-Halluzinationen durch maschinelles Verlernen reduzieren

TEL AVIV / LONDON (IT BOLTWISE) – Hirundo, ein innovatives Startup im Bereich der Künstlichen Intelligenz, hat kürzlich 8 Millionen US-Dollar an Startkapital gesammelt, um die Herausforderungen von KI-Halluzinationen, Voreingenommenheit und Schwachstellen in Daten zu adressieren.

Hirundo hat sich als erstes Unternehmen auf das maschinelle Verlernen spezialisiert und verfolgt einen einzigartigen Ansatz zur Lösung von Problemen, die durch KI-Modelle verursacht werden. Mit einer Finanzierungsrunde, angeführt von Maverick Ventures Israel, plant das Unternehmen, die Effizienz und Sicherheit von KI-Systemen zu verbessern, indem es unerwünschte Informationen aus bereits trainierten Modellen entfernt.

Die Technik des maschinellen Verlernens ermöglicht es, spezifisches Wissen oder Verhalten aus KI-Modellen zu löschen, ohne diese komplett neu trainieren zu müssen. Dies spart nicht nur Zeit, sondern auch erhebliche Kosten, die mit dem Umtrainieren großer Modelle verbunden sind. Hirundo vergleicht diesen Prozess mit einer Art KI-Neurochirurgie, bei der gezielt unerwünschte Ausgaben aus den Parametern eines Modells entfernt werden, ohne die Gesamtleistung zu beeinträchtigen.

KI-Halluzinationen stellen ein erhebliches Risiko dar, insbesondere in Unternehmensumgebungen, wo falsche Informationen zu rechtlichen und betrieblichen Problemen führen können. Studien zeigen, dass ein Großteil der von KI generierten Informationen bei Rechtsanfragen Halluzinationen enthält. Herkömmliche Methoden wie Leitplanken oder Feinabstimmungen sind oft nicht ausreichend, um diese Probleme zu beheben, da sie die Grundursache nicht beseitigen.

Hirundos Plattform ist flexibel und skalierbar, geeignet für eine Vielzahl von Datentypen und Systemen. Sie kann in generative und nicht-generative Systeme integriert werden und erkennt automatisch falsch beschriftete Elemente und Ausreißer in Trainingsdaten. Dies ermöglicht eine schnelle Korrektur von fehlerhaften Ergebnissen und die Entfernung problematischer Daten oder Verhaltensweisen.

Die Plattform von Hirundo ist SOC-2-zertifiziert und kann über SaaS, Private Cloud oder vor Ort in sensiblen Umgebungen wie Finanzen, Gesundheitswesen und Verteidigung eingesetzt werden. Tests mit gängigen Large Language Models wie Llama und DeepSeek zeigten eine deutliche Reduzierung von Halluzinationen, Bias und erfolgreichen Angriffen.

Hirundo wurde von einem erfahrenen Team gegründet, das über umfangreiche Kenntnisse in der KI-Forschung und -Anwendung verfügt. Die Gründer bringen akademische und industrielle Erfahrung mit, die es ihnen ermöglicht, die Zuverlässigkeitskrise in der KI-Branche effektiv anzugehen.

Investoren wie Yaron Carni von Maverick Ventures Israel betonen die Notwendigkeit einer Plattform, die verzerrte Informationen entfernt, um Vertrauen in KI-Systeme zu schaffen. Hirundos Ansatz des maschinellen Verlernens schließt eine kritische Lücke im KI-Entwicklungszyklus und bietet eine skalierbare Lösung für Unternehmen, die auf zuverlässige KI-Anwendungen angewiesen sind.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!