KI-Modelle lernen, ihre Wissenslücken zu erkennen

CAMBRIDGE / LONDON (IT BOLTWISE) – Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, doch bleibt ein zentrales Problem bestehen: die Unfähigkeit vieler Modelle, ihre eigenen Wissenslücken zu erkennen. Dies kann in sicherheitskritischen Anwendungen wie dem autonomen Fahren oder der Medikamentenentwicklung schwerwiegende Folgen haben.

Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, doch bleibt ein zentrales Problem bestehen: die Unfähigkeit vieler Modelle, ihre eigenen Wissenslücken zu erkennen. Dies kann in sicherheitskritischen Anwendungen wie dem autonomen Fahren oder der Medikamentenentwicklung schwerwiegende Folgen haben. Ein Unternehmen, das sich dieser Herausforderung stellt, ist das MIT-Spin-off Themis AI. Mit ihrer Plattform Capsa bietet Themis AI eine Lösung, die es KI-Modellen ermöglicht, Unsicherheiten in ihren Vorhersagen zu quantifizieren und zu korrigieren.

Die Capsa-Plattform funktioniert, indem sie bestehende KI-Modelle modifiziert, um Muster in der Datenverarbeitung zu erkennen, die auf Mehrdeutigkeit, Unvollständigkeit oder Verzerrung hinweisen. Dies ermöglicht es den Modellen, ihre eigenen Schwächen zu identifizieren und entsprechend zu handeln. Daniela Rus, Mitbegründerin von Themis AI und Professorin am MIT, betont die Bedeutung dieser Technologie für die Verbesserung der Zuverlässigkeit von KI-Systemen.

Seit der Gründung im Jahr 2021 hat Themis AI bereits mehreren Branchen geholfen, darunter Telekommunikation und Öl- und Gasunternehmen. Die Plattform wird auch in der pharmazeutischen Industrie eingesetzt, um die Vorhersage von Medikamenteneigenschaften zu verbessern. Alexander Amini, Mitbegründer von Themis AI, sieht in der Fähigkeit der Plattform, Unsicherheiten zu quantifizieren, einen entscheidenden Vorteil für Unternehmen, die KI in kritischen Bereichen einsetzen.

Ein weiterer Bereich, in dem Themis AI tätig ist, ist die Verbesserung von großen Sprachmodellen (LLMs). Diese Modelle, die oft auf unternehmenseigenen Daten basieren, können durch die Selbstberichterstattung ihrer Unsicherheiten zuverlässigere Antworten liefern. Stewart Jamieson, Leiter der Technologie bei Themis AI, erklärt, dass dies besonders für Unternehmen wichtig ist, die LLMs außerhalb von Cloud-Umgebungen einsetzen möchten.

Die Fähigkeit von Capsa, Unsicherheiten zu erkennen und zu korrigieren, hat auch in der Halbleiterindustrie Interesse geweckt. Kleinere Modelle, die auf mobilen Geräten oder eingebetteten Systemen laufen, können durch die Kombination von niedriger Latenz und hoher Effizienz ohne Qualitätsverlust profitieren. Dies eröffnet neue Möglichkeiten für die Nutzung von KI in Edge-Computing-Anwendungen.

Die Arbeit von Themis AI zeigt, wie wichtig es ist, KI-Modelle nicht nur leistungsfähiger, sondern auch transparenter und vertrauenswürdiger zu machen. Durch die Fähigkeit, Unsicherheiten zu erkennen und zu korrigieren, können Unternehmen sicherstellen, dass ihre KI-Systeme in kritischen Anwendungen zuverlässig arbeiten. Dies ist ein entscheidender Schritt, um das Vertrauen in KI-Technologien zu stärken und ihre Akzeptanz in der Gesellschaft zu erhöhen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!