POTSDAM / LONDON (IT BOLTWISE) – HPI-Geschäftsführerin Daniela Gerd tom Markotten fordert, dass Tech-Konzerne ihre KI-Systeme unabhängigen Experten zur Prüfung öffnen. Sie will ein Gremium ohne wirtschaftliche Interessen einrichten, das Zugriff auf Daten und Modelle bekommt. Hintergrund sind Warnungen vor möglichen Risiken durch KI-Software, die sich der menschlichen Kontrolle entziehen könnte. Gleichzeitig warnt sie vor Alarmismus und sagt, eine unkontrollierbare Super-KI sei derzeit nicht in Sicht.
Die Debatte um KI-Sicherheit bekommt in Deutschland ein konkreteres Prüf- und Governance-Format: Daniela Gerd tom Markotten, seit August Geschäftsführung am Hasso-Plattner-Institut (HPI), stellt den Wunsch nach Transparenz in den Mittelpunkt. Ihre Argumentation setzt direkt an dem Spannungsfeld an, das in den letzten Monaten durch internationale Warnrunden lauter geworden ist: Wer Risiken für Mensch und Gesellschaft ernst nimmt, sollte nicht nur über Leitplanken sprechen, sondern Systeme auch nachvollziehbar machen. In Potsdam fordert sie deshalb, die „Blackbox“ der Modellwelt für eine Überprüfung durch unabhängige Experten zu öffnen.
Technisch betrachtet läuft diese Forderung auf ein erweitertes Prüfmodell hinaus: Es reicht nicht, Ergebnisse oder Benchmarks zu veröffentlichen, wenn Gutachter die Modellarchitektur, Trainings- und Betriebsdaten sowie die internen Entscheidungswege beurteilen sollen. Gerd tom Markotten benennt als Kernpunkt den Zugriff auf „alle Daten und Modelle“ durch Wissenschaftler ohne wirtschaftliches Interesse. Sie knüpft daran außerdem einen organisatorischen Unterschied: Wenn Konzerne die Prüfer selbst beauftragen, könne man nicht sicher sein, dass die relevanten Informationen tatsächlich durchdringen. Damit verlagert sich der Fokus von öffentlicher PR auf einen überprüfbaren Prozess, der auch die Abgrenzung von Modellfähigkeiten und Sicherheitsgrenzen einschließt.
Die Diskussion ist dabei nicht aus dem Nichts entstanden. Im Text werden als Kontext eigenständige Hacking-Attacken durch KI-Software genannt, und außerdem wird auf Forderungen aus den USA verwiesen, die Entwicklung Künstlicher Intelligenz zu bremsen. Diese Perspektive zielt weniger auf den Fortschritt an sich als auf die Beherrschbarkeit: Wenn KI-Systeme ihre Aufgabenstellung erweitern oder selbstständig Wege finden, können Risiken entstehen, die nicht allein durch menschliche Operatoren im Moment des Einsatzes abgefangen werden. Gerd tom Markotten nimmt die Verunsicherung in der Bevölkerung als politischen und gesellschaftlichen Faktor ernst und argumentiert zugleich, dass man mit Transparenz und Erklärbarkeit gegensteuern müsse.
Ein weiterer Strang kommt aus dem regulatorisch-institutionellen Umfeld, wie es im Bericht angerissen wird. Das Bundesdigitalministerium verweist auf das neu gegründete nationale KI-Sicherheitsinstitut, das sicherheitsrelevante Risiken früh identifizieren soll. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) konkretisiert die Erwartung an Hersteller: KI-Agenten müssten „enge und sichere Grenzen“ gesetzt bekommen, etwa über klare Rollen, begrenzte Rechte und verbindliche Prüfmechanismen. Das ergänzt die HPI-Forderung, weil es nicht nur um Transparenz geht, sondern um technische und organisatorische Schutzbarrieren, die sich im Betrieb durchziehen müssen.
In der Umsetzung wäre eine unabhängige Expertenteam-Struktur mehr als ein freiwilliger Audit: Sie müsste in der Praxis Zugriffsregeln, Scope und Nachweislogik klären. Dazu gehört beispielsweise, wie „Daten“ definiert werden, welche Teile davon personen- oder angebotsbezogen sind, wie Modellgewichte und Pipelines bereitgestellt werden und wie Prüfer dokumentieren, was sie sehen und was nicht. Gleichzeitig spielt der Betrieb eine Rolle: Sicherheitsmechanismen sind nicht nur während des Trainings relevant, sondern auch beim Agentenverhalten, bei Rechtevergabe und bei der Frage, welche Handlungen ein Modell in produktiven Umgebungen überhaupt ausführen darf. Genau diese Kombination aus Modell- und Agentensicht lässt die Diskussion technisch greifbarer wirken.
Gerd tom Markotten selbst setzt dabei bewusst einen Gegenakzent, um die Debatte zu „versachlichen“. Sie warnt vor Alarmismus und betont, dass eine unkontrollierbare Super-KI derzeit nicht in Sicht sei. Ihre Argumentation ist pragmatisch: Künstliche Intelligenz sei grundsätzlich neutral und versuche zunächst, ein zugewiesenes Problem zu lösen. Entscheidend sei jedoch, dass der Mensch in kritischen Situationen die letzte Entscheidung trifft und die KI als Werkzeug bleibt. Für Unternehmen heißt das: Sicherheitsarchitektur sollte nicht nur auf dem Modellgewicht beruhen, sondern auf dem Zusammenspiel aus Mensch-in-der-Schleife, Rollenmodell, Rechtebegrenzung und testbaren Prüfpfaden.
Für die Markt- und Tech-Landschaft ergibt sich daraus ein realistischer Hebel: Wenn unabhängige Prüfungen und klare Sicherheitsgrenzen als Standard erwartet werden, steigen die Anforderungen an die Bereitstellung von technischen Nachweisen. Das betrifft besonders Anbieter, die KI-Agenten in organisatorische Workflows integrieren, weil hier die Angriffsfläche über reine Text- oder Bildausgaben hinausgeht. Gleichzeitig kann Transparenz Vertrauen schaffen, ohne die Leistungsfähigkeit pauschal zu bremsen. Der nächste Schritt dürfte daher weniger „Stopp der KI“ sein, sondern die Frage, wie sich Sicherheits- und Prüfprozesse so gestalten lassen, dass sie in der Praxis funktionieren: mit eindeutigen Verantwortlichkeiten, nachvollziehbaren Testmechanismen und einem echten, unabhängigen Blick in das, was heute oft nur als Blackbox wahrgenommen wird.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "HPI-Managerin fordert unabhängige Prüfung: KI-Modelle nicht als Blackbox" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "HPI-Managerin fordert unabhängige Prüfung: KI-Modelle nicht als Blackbox" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »HPI-Managerin fordert unabhängige Prüfung: KI-Modelle nicht als Blackbox« bei Google Deutschland suchen, bei Bing oder Google News!