Sichere KI-Modelle im Gesundheitswesen: Schutz vor Cyberangriffen

BONN / LONDON (IT BOLTWISE) – Die zunehmende Integration von Künstlicher Intelligenz in medizinische Geräte und Anwendungen birgt sowohl Chancen als auch Risiken. Während die Technologie das Potenzial hat, die Patientenversorgung erheblich zu verbessern, wächst gleichzeitig die Gefahr von Cyberangriffen, die die Sicherheit und Funktionalität dieser Systeme gefährden können.

Die fortschreitende Digitalisierung im Gesundheitswesen bringt nicht nur Vorteile, sondern auch neue Herausforderungen mit sich. Insbesondere die Integration von Künstlicher Intelligenz (KI) in medizinische Geräte und Anwendungen eröffnet neue Möglichkeiten zur Verbesserung der Patientenversorgung. Doch mit diesen Chancen gehen auch Risiken einher, insbesondere im Hinblick auf Cyberangriffe, die die Sicherheit und Funktionalität dieser Systeme gefährden können.

Um diesen Bedrohungen entgegenzuwirken, haben sich Wissenschaftlerinnen und Wissenschaftler der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe zusammengeschlossen. Im Rahmen des Projekts „SecureNeuroAI“ entwickeln sie sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle, die am Beispiel epileptischer Anfälle erprobt werden sollen. Das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) unterstützt das Projekt mit einer Fördersumme von knapp 2,5 Millionen Euro.

Ein zentrales Element des Projekts ist die Entwicklung von Verfahren zur Datenauthentifizierung, die die KI-Verarbeitung der Informationen nicht beeinträchtigen, aber einen Nachweis über die Herkunft dieser Daten ermöglichen. Elena Demidova, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ (DSIS) an der Universität Bonn und Koordinatorin von „SecureNeuroAI“, betont die Bedeutung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung, um die Integrität der KI-Modelle zu gewährleisten.

Die Grundlage für die sicheren KI-Modelle bilden multimodale Sensordaten, die mithilfe tragbarer elektronischer Geräte sowie klinischer Daten von Patientinnen und Patienten gewonnen werden. Diese Informationen, zu denen beispielsweise Vitalparameter wie Herz- und Atemfrequenz zählen, werden durch cybersichere KI-Modelle analysiert. Ziel ist es, Anfälle zuverlässig zu erkennen und potenzielle Datenmanipulationen zu identifizieren.

Das Universitätsklinikum Bonn übernimmt eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle. In der Klinik und Poliklinik für Epileptologie werden multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet. Dies schafft eine realitätsnahe Datengrundlage für die KI-Modelle.

Michael Meier von der Universität Bonn bringt seine Erfahrungen in aktuellen IT-Sicherheitsthemen ein. Er betont, dass vernetzte Medizinprodukte und die begleitenden Infrastrukturen Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können. Franziska Boehm vom FIZ Karlsruhe analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der Künstlichen Intelligenz, um Empfehlungen für gesellschaftliche Prozesse und die digitale Wissenschaft abzuleiten.

Die Ergebnisse des Projekts „SecureNeuroAI“ sollen einen Beitrag zur Stärkung kritischer medizinischer Geräte gegen Cyberangriffe leisten. Die entwickelten technischen Lösungen zielen darauf ab, sowohl die KI-Modelle selbst als auch die zugrunde liegenden Daten vor Manipulationen zu schützen. Dabei sollen die Projektergebnisse über die Erkennung epileptischer Anfälle hinaus Anwendung finden und eine technologische Basis schaffen, die die Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten verbessert.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!