LONDON (IT BOLTWISE) – Anthropic sagt, es habe in diesem Jahr potenzielle KI-Nutzungen zur Entwicklung von Biowaffen unterbunden. Laut dem Bericht konnte das Unternehmen nicht sicher beurteilen, ob bestimmte Biorecherchen legitim oder böswillig waren. Deshalb schaltet Anthropic betroffene Anfragen und Umgehungsversuche seiner Kontrollen konsequent ab. Im Fokus steht dabei vor allem, wie moderne KI-Modelle „dual-use“-Biologie beschleunigen können.
Anthropic beschreibt in einem neuen Bericht, dass es mehrere mögliche Missbrauchsfälle seiner KI-Modelle gestoppt hat – besonders in Kontexten, die in der „Dual-Use“-Biologie liegen. Ausgangspunkt ist die grundsätzliche Schwierigkeit, biologische Forschung allein anhand der Beschreibung eines Forschungsvorhabens sauber zu klassifizieren. Denn dieselben Methoden und Daten, die bei legitimen Aufgaben wie Impfstoffentwicklung entscheidend sein können, lassen sich auch nutzen, um gefährliche Krankheitserreger gezielt zu optimieren.
Technisch und organisatorisch setzt Anthropic dabei auf einen Sicherheitsansatz, der nicht nur Inhalte bewertet, sondern auch die Zielrichtung hinter Anfragen zu ermitteln versucht. Im Bericht heißt es, das Unternehmen habe nicht zuverlässig feststellen können, ob die bearbeiteten Fragestellungen legitimen Forschungszwecken dienten oder ob dahinter ein schädliches Vorhaben stand. Gerade diese Unsicherheit führt laut Darstellung zu strengeren Entscheidungen: Anthropic „erliegt“ in solchen Fällen nicht dem Risiko einer Fehlklassifikation, sondern schaltet die Arbeiten ab, weil die Folgen eines Übersehens potenziell gravierend wären.
Besonders relevant ist die Schilderung konkreter Umgehungsversuche: Anthropic berichtet, Forschende hätten nicht nur die eigenen Kontrollen auszuhebeln versucht, die Nutzer aus gesperrten Regionen vom Zugang abhalten sollen, sondern zusätzlich versucht, den Zweck ihrer Arbeit zu verschleiern, um die Schutzmechanismen zu umgehen. In einem Beispiel aus dem Monat Mai ging es um das Verfassen eines Förderantrags, der eine Forschung mit dem chikungunya-Virus ermöglichen sollte. Anthropic ordnet diese Anfrage als problematisch ein, unter anderem weil Hinweise auf eine geplante Durchführung an einem militärischen Forschungsinstitut vorlagen – eine Konstellation, die laut Unternehmenssicht besonders sorgfältige Bewertungen erfordert, weil „Gain-of-Function“-Arbeiten sowohl medizinisch motiviert sein können als auch dazu dienen könnten, Viren riskanter zu machen.
Auch außerhalb der Biorecherche zeigt der Bericht, wie vielfältig Angriffsflächen in modernen KI-Systemen sind. Anthropic listet Missbrauchsmuster über acht Monate auf und nennt dabei etwa Fälle, in denen Akteure Claude für Überwachung und Social Engineering nutzten, darunter Anspielungen auf staatlich verlinkte Akteure, die bestimmte Communities ins Visier nahmen. Daneben wird beschrieben, dass russische staatliche Medien KI-gestützte Texte dazu eingesetzt hätten, Online-Propaganda so zu formulieren, dass sie wie unabhängige Berichterstattung wirkt. In einem weiteren, neueren Missbrauchstyp geht es um Versuche, KI zur Unterstützung von Software für die Konstruktion und Entwicklung konventioneller Waffen einzusetzen – inklusive Systemen wie Feuerwaffen, Raketen, bewaffneten Drohnen und Bomben; Anthropic verweist dabei auf Fälle in China, Russland und Jemen.
Im Gespräch mit der Presse betont Jacob Klein, Leiter der Threat-Intelligence-Sparte bei Anthropic, wie schwer die Unterscheidung im konkreten Einzelfall sein kann: „You are not seeing someone in a comic book kind of way say, ‚Hey, I want to build a biological weapon to kill everybody, ‘“ und weiter: „It’s an incredibly nuanced situation.“ Diese Einordnung passt zur Logik des Berichts: Selbst wenn ein Vorhaben wissenschaftlich plausibel klingt, kann sich das Risiko daraus ergeben, wie eng es mit der Zielsetzung zur Veränderung von Krankheitserregern verbunden ist oder ob es in Organisationen stattfindet, die historisch und strukturell mit militärischen Programmen assoziiert sind.
Dass die Debatte nicht bei reiner „Policy“ stehen bleibt, unterstreicht auch die Einbindung externer Prüfer. Andrew Weber, Senior Fellow beim Council on Strategic Risks, ordnet die Erkenntnisse als „chilling examples of state-sponsored biological weapons developers tapping into the rapidly advancing capabilities“ der KI-Modelle ein. Susan Monarez, Mikrobiologin und Public-Health-Expertin, die zuvor eine Überprüfung zur nationalen Biosecurity-Vorbereitung in der Obama-Administration beaufsichtigt hatte, sieht in den Fällen realweltliche Indizien dafür, dass schlechte Akteure die KI-Fähigkeiten gezielt nutzen wollen, um ihre Erfolgschancen beim Aufbau schädlicher biologischer Pathogene zu erhöhen. Gleichzeitig hebt Monarez die Doppelgesichtigkeit hervor: KI kann medizinischen Fortschritt beschleunigen, aber dieselben Fähigkeiten können es ermöglichen, missbräuchliche Ziele „in plain sight“ zu verstecken.
Für Unternehmen und Entwickler ist vor allem die Konsequenz interessant, die der Bericht aus diesen Risiken ableitet: Wenn leistungsfähige KI-Modelle deutlich mehr als nur allgemeine Erklärungen liefern können, müssen auch Zugriffsregeln und Prüfmechanismen mitwachsen. Weber fordert deshalb, den Zugang zu Werkzeugen, die diese Größenordnung biologischer Forschung unterstützen, auf vertrauenswürdige Forschende zu beschränken. Der Bericht macht damit weniger eine einzelne Technik zur „Hauptursache“ als vielmehr ein Muster sichtbar: Je besser ein KI-System komplexe wissenschaftliche Aufgaben erledigen kann, desto genauer müssen Sicherheitsmodelle in der Praxis zwischen legitimen Forschungsanträgen und schädlichen Zielsetzungen unterscheiden – und wenn diese Abgrenzung unsicher bleibt, dann muss die Plattform konsequent genug sein, um im Zweifel zu stoppen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic blockiert KI-Zugriffe für potenziell missbräuchliche Biorecherche" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic blockiert KI-Zugriffe für potenziell missbräuchliche Biorecherche" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic blockiert KI-Zugriffe für potenziell missbräuchliche Biorecherche« bei Google Deutschland suchen, bei Bing oder Google News!