TU Wien entwickelt Methode zur Berechnung von Unsicherheiten in KI-Systemen

WIEN / LONDON (IT BOLTWISE) – Die Technische Universität Wien hat eine bahnbrechende Methode entwickelt, die es ermöglicht, die Unsicherheit in Künstlichen Intelligenz-Systemen präzise zu berechnen. Diese Entwicklung könnte die Sicherheit von KI-Anwendungen in sensiblen Bereichen erheblich verbessern.

Die Technische Universität Wien hat eine neue Methode vorgestellt, die es ermöglicht, die Unsicherheit in neuronalen Netzwerken exakt zu berechnen. Diese Methode, die auf der renommierten ICML-Konferenz präsentiert wurde, bietet mathematische Garantien dafür, dass bestimmte Fehler in definierten Eingabebereichen ausgeschlossen werden können. Dies ist ein entscheidender Schritt für den sicheren Einsatz von KI in Bereichen, in denen Sicherheit von größter Bedeutung ist, wie im Gesundheitswesen oder in der Automobilindustrie.

Die Frage nach der Verlässlichkeit von Künstlicher Intelligenz ist von zentraler Bedeutung, insbesondere in sicherheitskritischen Anwendungen. Ein interdisziplinäres Team der TU Wien, bestehend aus Experten der Informatik, Statistik und Mathematik, hat eine Methode entwickelt, die es ermöglicht, die Ausgaben eines neuronalen Netzwerks für bestimmte Eingabebereiche exakt zu berechnen und Fehler mit mathematischer Sicherheit auszuschließen.

Dr. Andrey Kofnov und seine Kollegen haben einen geometrischen Ansatz gewählt, um die Menge aller möglichen Inputs als hochdimensionalen Raum zu betrachten. Dieser Raum wird in kleine Teilbereiche zerlegt, für die die Ausgaben des neuronalen Netzwerks exakt bestimmt werden können. Dadurch lässt sich die Wahrscheinlichkeit für unterschiedliche Ergebnisbereiche ermitteln, sodass bestimmte Fehler mit 100%iger Sicherheit ausgeschlossen werden können.

Die Methode ist derzeit auf kleinere neuronale Netzwerke anwendbar, da die Analyse großer Modelle wie ChatGPT eine immense Rechenleistung erfordern würde. Dennoch zeigt die Forschung der TU Wien, dass eine rigorose Fehlerquantifizierung für kleinere Netzwerke möglich ist, was einen wichtigen Fortschritt in der KI-Sicherheit darstellt.

Diese Entwicklung wurde im Rahmen des Doktoratskollegs SecInt der TU Wien erarbeitet, das die Zusammenarbeit verschiedener Fachbereiche im Bereich IT-Sicherheit fördert. Neben technischen Aspekten werden auch ethische Fragestellungen und gesellschaftliche Auswirkungen von Technologie berücksichtigt.

Die Publikation der Forschungsergebnisse wurde nach einem Peer-Review-Verfahren für die ICML 2025 angenommen, eine der weltweit bedeutendsten Konferenzen im Bereich maschinelles Lernen. Das Paper ist als Preprint verfügbar und bietet einen tiefen Einblick in die theoretischen Grundlagen und praktischen Anwendungen der Methode.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!