KI-Modelle lernen, ihre Wissenslücken zu erkennen

CAMBRIDGE / LONDON (IT BOLTWISE) – Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, doch bleibt ein zentrales Problem bestehen: die Unfähigkeit vieler Modelle, ihre eigenen Wissenslücken zu erkennen. Dies kann in sicherheitskritischen Anwendungen wie dem autonomen Fahren oder der Medikamentenentwicklung schwerwiegende Folgen haben.

Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, doch bleibt ein zentrales Problem bestehen: die Unfähigkeit vieler Modelle, ihre eigenen Wissenslücken zu erkennen. Dies kann in sicherheitskritischen Anwendungen wie dem autonomen Fahren oder der Medikamentenentwicklung schwerwiegende Folgen haben. Ein Unternehmen, das sich dieser Herausforderung stellt, ist das MIT-Spin-off Themis AI. Mit ihrer Plattform Capsa bietet Themis AI eine Lösung, die es KI-Modellen ermöglicht, Unsicherheiten in ihren Vorhersagen zu quantifizieren und zu korrigieren.

Die Capsa-Plattform funktioniert, indem sie bestehende KI-Modelle modifiziert, um Muster in der Datenverarbeitung zu erkennen, die auf Mehrdeutigkeit, Unvollständigkeit oder Verzerrung hinweisen. Dies ermöglicht es den Modellen, ihre eigenen Schwächen zu identifizieren und entsprechend zu handeln. Daniela Rus, Mitbegründerin von Themis AI und Professorin am MIT, betont die Bedeutung dieser Technologie für die Verbesserung der Zuverlässigkeit von KI-Systemen.

Seit der Gründung im Jahr 2021 hat Themis AI bereits mehreren Branchen geholfen, darunter Telekommunikation und Öl- und Gasunternehmen. Die Plattform wird auch in der pharmazeutischen Industrie eingesetzt, um die Vorhersage von Medikamenteneigenschaften zu verbessern. Alexander Amini, Mitbegründer von Themis AI, sieht in der Fähigkeit der Plattform, Unsicherheiten zu quantifizieren, einen entscheidenden Vorteil für Unternehmen, die KI in kritischen Bereichen einsetzen.

Ein weiterer Bereich, in dem Themis AI tätig ist, ist die Verbesserung von großen Sprachmodellen (LLMs). Diese Modelle, die oft auf unternehmenseigenen Daten basieren, können durch die Selbstberichterstattung ihrer Unsicherheiten zuverlässigere Antworten liefern. Stewart Jamieson, Leiter der Technologie bei Themis AI, erklärt, dass dies besonders für Unternehmen wichtig ist, die LLMs außerhalb von Cloud-Umgebungen einsetzen möchten.

Die Fähigkeit von Capsa, Unsicherheiten zu erkennen und zu korrigieren, hat auch in der Halbleiterindustrie Interesse geweckt. Kleinere Modelle, die auf mobilen Geräten oder eingebetteten Systemen laufen, können durch die Kombination von niedriger Latenz und hoher Effizienz ohne Qualitätsverlust profitieren. Dies eröffnet neue Möglichkeiten für die Nutzung von KI in Edge-Computing-Anwendungen.

Die Arbeit von Themis AI zeigt, wie wichtig es ist, KI-Modelle nicht nur leistungsfähiger, sondern auch transparenter und vertrauenswürdiger zu machen. Durch die Fähigkeit, Unsicherheiten zu erkennen und zu korrigieren, können Unternehmen sicherstellen, dass ihre KI-Systeme in kritischen Anwendungen zuverlässig arbeiten. Dies ist ein entscheidender Schritt, um das Vertrauen in KI-Technologien zu stärken und ihre Akzeptanz in der Gesellschaft zu erhöhen.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,90 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

152,91 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

152,91 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

64,59 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!