US-Regierung setzt auf KI: Chancen und Risiken

WASHINGTON / LONDON (IT BOLTWISE) – Die US-Regierung hat einen umfassenden Aktionsplan zur Integration von Künstlicher Intelligenz (KI) in staatliche Funktionen vorgestellt. Diese Initiative ist ein weiterer Schritt in der Strategie der Trump-Administration, KI in den Mittelpunkt zu stellen.

Die US-Regierung hat kürzlich einen umfassenden Aktionsplan veröffentlicht, der die Integration von Künstlicher Intelligenz (KI) in staatliche Funktionen vorsieht. Diese Ankündigung ist Teil der Bestrebungen der Trump-Administration, eine KI-zentrierte Strategie zu verfolgen. Ein bemerkenswerter Schritt in diesem Prozess war die Vergabe von Verträgen im Wert von 200 Millionen US-Dollar an Unternehmen wie Anthropic, Google, OpenAI und xAI durch das US-Verteidigungsministerium. Elon Musks xAI hat zudem ‘Grok for Government’ angekündigt, ein Angebot, das es Bundesbehörden ermöglicht, KI-Produkte über die General Services Administration zu erwerben.

Diese Entwicklungen werfen jedoch erhebliche Bedenken hinsichtlich der Privatsphäre und Cybersicherheit auf. Experten warnen davor, dass die Nutzung von KI-Tools zur Verarbeitung sensibler Daten wie Gesundheits- und Finanzinformationen Risiken birgt, insbesondere wenn Schutzmaßnahmen wie der Zugang zu bestimmten Datentypen gelockert oder ignoriert werden. Bo Li, ein Experte für KI und Sicherheit von der University of Illinois Urbana-Champaign, und Jessica Ji, eine Expertin für KI und Cybersicherheit am Georgetown University’s Center for Security and Emerging Technology, äußerten sich besorgt über mögliche Datenlecks und die Konsolidierung von Daten aus verschiedenen Quellen.

Ein zentrales Risiko besteht in der Möglichkeit von Datenlecks, wenn sensible Informationen zur Schulung oder Feinabstimmung von Modellen verwendet werden. Modelle könnten Informationen wie Kreditkartennummern oder E-Mail-Adressen speichern und bei Abfragen preisgeben. Darüber hinaus könnte die Konsolidierung von Daten aus verschiedenen Quellen zu einem attraktiven Ziel für Hacker werden, da sie nur eine zentrale Datenquelle angreifen müssten, anstatt mehrere Behörden.

Die Konsolidierung von Daten birgt auch das Risiko, dass statistische Verknüpfungen zwischen sensiblen Informationen hergestellt werden, was erhebliche Auswirkungen auf die Privatsphäre und die bürgerlichen Freiheiten haben könnte. Jessica Ji betont, dass die Verknüpfung von personenbezogenen Daten mit Gesundheitsinformationen in den USA bisher vermieden wurde, um die Privatsphäre zu schützen.

Cyberangriffe wie Mitgliedschaftsangriffe, bei denen festgestellt wird, ob eine bestimmte Person in einem Datensatz enthalten ist, oder Modellinversionsangriffe, bei denen ganze Datensätze wiederhergestellt werden können, sind weitere Bedrohungen. Auch Modell-Diebstahl, bei dem die Parameter eines Modells gestohlen werden, stellt ein erhebliches Risiko dar.

Um diese Risiken zu mindern, empfehlen Experten die Implementierung von Schutzmaßnahmen wie Guardrail-Modellen, die sensible Informationen filtern, sowie die kontinuierliche Überprüfung durch ethische Hacker, um Schwachstellen aufzudecken. Dennoch bleibt die Herausforderung bestehen, dass solche Maßnahmen die Leistung der Modelle beeinträchtigen können und keine vollständige Sicherheit bieten.

Die Einführung von KI in staatliche Funktionen erfordert daher eine sorgfältige Abwägung von Risiken und Nutzen. Es ist entscheidend, dass Sicherheitsaspekte priorisiert werden und bestehende Risikomanagementprozesse an die spezifischen Anforderungen von KI-Tools angepasst werden. Nur so kann sichergestellt werden, dass die Vorteile der KI genutzt werden, ohne die Privatsphäre und Sicherheit der Bürger zu gefährden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!