WIEN / LONDON (IT BOLTWISE) – Die Technische Universität Wien hat eine bahnbrechende Methode entwickelt, die es ermöglicht, die Unsicherheit in Künstlichen Intelligenz-Systemen präzise zu berechnen. Diese Entwicklung könnte die Sicherheit von KI-Anwendungen in sensiblen Bereichen erheblich verbessern.
Die Technische Universität Wien hat eine neue Methode vorgestellt, die es ermöglicht, die Unsicherheit in neuronalen Netzwerken exakt zu berechnen. Diese Methode, die auf der renommierten ICML-Konferenz präsentiert wurde, bietet mathematische Garantien dafür, dass bestimmte Fehler in definierten Eingabebereichen ausgeschlossen werden können. Dies ist ein entscheidender Schritt für den sicheren Einsatz von KI in Bereichen, in denen Sicherheit von größter Bedeutung ist, wie im Gesundheitswesen oder in der Automobilindustrie.
Die Frage nach der Verlässlichkeit von Künstlicher Intelligenz ist von zentraler Bedeutung, insbesondere in sicherheitskritischen Anwendungen. Ein interdisziplinäres Team der TU Wien, bestehend aus Experten der Informatik, Statistik und Mathematik, hat eine Methode entwickelt, die es ermöglicht, die Ausgaben eines neuronalen Netzwerks für bestimmte Eingabebereiche exakt zu berechnen und Fehler mit mathematischer Sicherheit auszuschließen.
Dr. Andrey Kofnov und seine Kollegen haben einen geometrischen Ansatz gewählt, um die Menge aller möglichen Inputs als hochdimensionalen Raum zu betrachten. Dieser Raum wird in kleine Teilbereiche zerlegt, für die die Ausgaben des neuronalen Netzwerks exakt bestimmt werden können. Dadurch lässt sich die Wahrscheinlichkeit für unterschiedliche Ergebnisbereiche ermitteln, sodass bestimmte Fehler mit 100%iger Sicherheit ausgeschlossen werden können.
Die Methode ist derzeit auf kleinere neuronale Netzwerke anwendbar, da die Analyse großer Modelle wie ChatGPT eine immense Rechenleistung erfordern würde. Dennoch zeigt die Forschung der TU Wien, dass eine rigorose Fehlerquantifizierung für kleinere Netzwerke möglich ist, was einen wichtigen Fortschritt in der KI-Sicherheit darstellt.
Diese Entwicklung wurde im Rahmen des Doktoratskollegs SecInt der TU Wien erarbeitet, das die Zusammenarbeit verschiedener Fachbereiche im Bereich IT-Sicherheit fördert. Neben technischen Aspekten werden auch ethische Fragestellungen und gesellschaftliche Auswirkungen von Technologie berücksichtigt.
Die Publikation der Forschungsergebnisse wurde nach einem Peer-Review-Verfahren für die ICML 2025 angenommen, eine der weltweit bedeutendsten Konferenzen im Bereich maschinelles Lernen. Das Paper ist als Preprint verfügbar und bietet einen tiefen Einblick in die theoretischen Grundlagen und praktischen Anwendungen der Methode.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
IT Support mit KI (m/w/d) – Quereinsteiger willkommen
IT Support mit KI (m/w/d) – Quereinsteiger willkommen
Werde KI / IT-Profi (m/w/d) Quereinstieg in Vollzeit, live online und komplett kostenlos!
Werde KI / IT-Profi (m/w/d) Quereinstieg in Vollzeit, live online und komplett kostenlos!
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "TU Wien entwickelt Methode zur Berechnung von Unsicherheiten in KI-Systemen" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "TU Wien entwickelt Methode zur Berechnung von Unsicherheiten in KI-Systemen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »TU Wien entwickelt Methode zur Berechnung von Unsicherheiten in KI-Systemen« bei Google Deutschland suchen, bei Bing oder Google News!