ARLINGTON / MÜNCHEN (IT BOLTWISE) – Die Herausforderungen der Geheimdienstgemeinschaft im Umgang mit unautorisierten Datenlecks sind zahlreich, und die führende Forschungsabteilung möchte sicherstellen, dass ChatGPT nicht der nächste große Leaker wird.
Die Geheimdienstgemeinschaft steht vor zahlreichen Herausforderungen im Umgang mit unautorisierten Datenlecks, und die führende Forschungsabteilung möchte sicherstellen, dass ChatGPT nicht der nächste große Leaker wird. Dies ist eine der Herausforderungen, die die Intelligence Advanced Research Projects Activity (IARPA) in ihrer nächsten Runde der KI-Forschung in Betracht zieht. Das aktuelle Programm von IARPA zur KI-Sicherheit, genannt „TrojAI“, wird in diesem Jahr abgeschlossen. Diese Initiative wurde 2019 ins Leben gerufen, um Mittel zur Erkennung von Angriffen auf KI-Systeme zu entwickeln. Sie wurde vor den weitreichenden Fortschritten bei großen Sprachmodellen, die die generative Künstliche Intelligenz antreiben, ins Leben gerufen.
IARPA-Direktor Rick Muller betonte, dass große Sprachmodelle (LLMs) ein Hauptfokusbereich für das nächste Programm sein werden. „Was wir in der nächsten Runde verstehen wollen, ist, welche Art von Trainingsverzerrungen in ein großes Sprachmodell eingebracht werden, die unbeabsichtigte Konsequenzen haben könnten. Welche Art von Halluzinationen treten auf?“, sagte Muller am 22. April während einer Veranstaltung der Intelligence and National Security Alliance in Arlington, Virginia.
Ein weiteres Anliegen ist die sogenannte „Jailbreaking“-Technik, bei der ein System dazu gebracht wird, seine eingebauten Schutzmaßnahmen zu ignorieren. Ein verwandtes Problem sind „Prompt-Injections“, bei denen bösartige Anweisungen als harmlose Eingaben getarnt werden, um ein generatives KI-System dazu zu bringen, sensible Daten preiszugeben oder andere schädliche Aktionen auszuführen. Gleichzeitig glauben Geheimdienstmitarbeiter, dass KI genutzt werden kann, um die Informationsbeschaffung und -analyse zu beschleunigen. Eine IT-Roadmap, die letztes Jahr vom Büro des Direktors der Nationalen Nachrichtendienste veröffentlicht wurde, forderte die Einführung von „KI im großen Maßstab“ in der gesamten Geheimdienstgemeinschaft.
Verteidigungs- und Geheimdienste haben die Nutzung generativer KI zur Analyse von Open-Source-Informationen untersucht. Anbieter wie Microsoft und Palantir haben ebenfalls angekündigt, große Sprachmodelle in klassifizierte Netzwerke zu integrieren. Das TrojAI-Programm von IARPA, das 2019 gestartet wurde, konzentrierte sich auf den Aufbau von Abwehrmaßnahmen gegen „Trojanische Pferde“-Angriffe auf KI-Systeme. Das Programm arbeitete an der Erkennung von Angriffen über eine Vielzahl von Vektoren, von Trainingsdaten bis hin zum KI-Modell selbst.
Die Forschung konzentrierte sich auf eine Reihe von KI-Domänen, darunter Bilderkennung, natürliche Sprachverarbeitung und verstärkendes Lernen. IARPA hat einen Großteil der Forschung in Zusammenarbeit mit dem National Institute of Standards and Technology veröffentlicht. Muller erklärte, das Ziel sei es, Lücken im Markt für KI-Sicherheit zu schließen. „IARPA hat nicht die Milliarden von Dollar, die erforderlich sind, um ein Foundation-Modell zu trainieren“, sagte Muller. „Was wir tun wollen, ist, der Geheimdienstgemeinschaft Werkzeuge zur Verfügung zu stellen, die ihnen helfen, zu verstehen, wann diese Modelle sicher sind, wann sie kompromittiert wurden und so weiter.“
Während das TrojAI-Programm in diesem Jahr abgeschlossen wird, konzentrierte sich der letzte Wettbewerb im Rahmen des Programms auf große Sprachmodelle. „Die IC möchte in der Lage sein, diese Werkzeuge zu nutzen, wenn das Leben von Menschen auf dem Spiel steht“, sagte Muller. „Und wenn wir es auf klassifizierten Daten trainieren, wie stellen wir sicher, dass diese Daten nicht auf eine Weise kompromittiert werden, die unsere Ressourcen gefährdet?“
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "IARPA fokussiert sich auf KI-Sicherheit in der nächsten Forschungsrunde" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "IARPA fokussiert sich auf KI-Sicherheit in der nächsten Forschungsrunde" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »IARPA fokussiert sich auf KI-Sicherheit in der nächsten Forschungsrunde« bei Google Deutschland suchen, bei Bing oder Google News!