LONDON (IT BOLTWISE) – Der Cohere-CEO Aidan Gomez kritisiert, dass ein enger Kreis großer KI-Labs Sicherheitsregeln entwirft und damit faktisch Wettbewerb steuert. Er fordert unabhängige Tests und mehr Transparenz bei den Kriterien, mit denen KI-Systeme als „sicher“ gelten. Aus seiner Sicht führen geschlossene Standardisierungsrunden vor allem zu höheren Compliance-Kosten für kleinere Teams, während Marktführer ihre Position verteidigen. Gleichzeitig warnt er davor, dass Sicherheitsvorgaben zu einem Schutzwall gegen neue Anbieter werden könnten.
Die Debatte um KI-Sicherheit bekommt eine neue Stoßrichtung: Nicht nur die Frage, was als sicher gilt, sondern auch wer die Regeln festlegt. Aidan Gomez, CEO des KI-Labors Cohere, argumentiert, dass die derzeit entstehenden Sicherheitsstandards in der Praxis von den größten Akteuren dominiert werden. Wenn Frontier-Labs gemeinsam Standards definieren, sei das Spiel seiner Sicht nach „vor dem ersten Zug“ bereits beeinflusst. Damit rückt er ein Thema in den Vordergrund, das in der Technikdiskussion oft zu kurz kommt: Standardisierung kann nicht nur Risiko reduzieren, sondern auch Markteintrittsbarrieren erzeugen.
Technisch betrachtet geht es bei solchen Regeln selten um einzelne Modelle, sondern um Prüfmethoden, Datenanforderungen und Abnahmekriterien, die sich in Pipelines und Governance-Workflows übersetzen lassen. Sobald diese Kriterien von einem geschlossenen Kreis entworfen werden, entsteht ein praktischer Hebel: Wer die Testlogik, die Benchmark-Auswahl und die Akzeptanzgrenzen mitgestaltet, kann später leichter argumentieren, dass „die eigenen“ Systeme besonders gut abschneiden. Genau hier setzt Gomez’ Forderung an: Er plädiert für unabhängige Tests und mehr Transparenz, damit Sicherheitsnachweise nicht nur intern nachvollziehbar sind, sondern für Dritte reproduzierbar werden. Das ist weniger ein moralisches Argument als ein mess- und prozessorientiertes – in der Softwareentwicklung ist Transparenz bei den Bewertungsmetriken oft genauso entscheidend wie die Leistung des Modells selbst.
Gomez’ Kritik ist außerdem stark wettbewerbspolitisch aufgeladen. Er beschreibt ein Muster, das aus anderen Tech-Regelwerken bekannt ist: Regulierungs- oder „Schutz“-Narrative können als Verpackung dienen, um Kosten im Markt zu erhöhen. In seiner Darstellung zahlen kleinere Labs und Neueinsteiger den Preis besonders deutlich, weil sie Compliance-Kosten tragen müssen, ohne gleichzeitig Zugriff auf die Gestaltung der Kriterien zu haben. Für die großen Anbieter hingegen entstehen Handlungsspielräume, die über reine Qualitätsunterschiede hinausgehen: Wer bereits über Kapital, Infrastruktur und organisatorische Tiefe verfügt, kann Prüfanforderungen schneller operationalisieren und mit wiederholten Iterationen die eigenen Resultate stabilisieren. In diesem Licht erscheint „KI-Sicherheit“ nicht nur als Schutz vor Risiken, sondern auch als strukturelles Instrument.
Rechtlich und industriepraktisch bleibt dabei ein entscheidender Punkt offen: Im Kern handelt es sich um eine Warnung vor einem möglichen Interessenkonflikt, nicht um eine bereits entschiedene Rechtslage. Gomez’ Position lässt sich daher als Vorwurf im Sinne einer mutmaßlichen Kartellbildung verstehen, also als Behauptung, die auf Wettbewerbseffekten basiert. Damit verbunden ist die politische Leitfrage, wie unabhängige Überprüfung organisiert werden kann, ohne Sicherheitsziele zu verwässern. Ein gangbarer Weg wären nach seiner Logik testbare, öffentlich beschriebene Kriterien, die Drittstellen anwenden können, sowie ein Verfahren, das Feedbackschleifen ermöglicht – also schnelle Iterationen, wenn Schwachstellen bei realen Modellen auftauchen. Das Ziel ist, Sicherheitsregeln nicht als einmaliges „Gate“ zu behandeln, sondern als lernfähigen Mechanismus, der neue Erkenntnisse aufnehmen kann.
Der Vergleich mit früheren Standardisierungswellen aus der IT ist nicht nur akademisch: In vielen Bereichen wurden Qualitäts- und Sicherheitsanforderungen erst dann belastbar, wenn sie durch offene Prüfverfahren flankiert wurden. Das betrifft etwa die Frage, ob Benchmarks wirklich die relevanten Risiken abbilden oder ob sie sich mit Systemtricks „optimieren“ lassen. Überträgt man dieses Prinzip auf KI-Sicherheitsregeln, wird verständlich, warum Transparenz so oft als Schlüssel gefordert wird: Nur wenn Testdesign und Messgrößen offen genug sind, kann die Community erkennen, ob Ergebnisse robust sind oder ob sie lediglich zu den Erwartungen des Prüfrahmens passen. Gomez’ Kernbotschaft zielt genau auf diese Robustheit: Sicherheit soll aus offener Prüfung, Wettbewerb und iterativer Verbesserung entstehen – nicht aus einem exklusiven Kreis, der festlegt, wer als Nächster bauen darf.
Für Unternehmen, die KI-Produkte entwickeln oder einsetzen, folgt daraus eine praktische Abwägung. Wer heute Sicherheitsberichte und Compliance-Dokumente ausarbeitet, steht vor der Frage, welche Prüfungen als glaubwürdig gelten und wie schnell sich Anforderungen ändern, wenn neue Threat-Modelle oder Angriffsmuster auftauchen. Gleichzeitig können unabhängige Tests und transparente Kriterien die Zusammenarbeit mit Kunden, Auditoren und internen Risikoteams verbessern, weil die Begründungskette nachvollziehbar bleibt. Wenn die Branche dagegen Sicherheitsstandards zu stark intern geschlossen hält, drohen genau jene Effekte, die Gomez beschreibt: langsamere Iteration für kleinere Teams, stärkere Abhängigkeit von Gatekeepern und langfristig weniger Wettbewerb. Entscheidend wird daher nicht nur die Qualität der Modelle, sondern auch die Qualität der Bewertungsumgebung.
Insgesamt ist die Meldung weniger eine technische Detailfrage als ein Weckruf für das Ökosystem. Die Frage lautet: Wird KI-Sicherheit zur gemeinsamen Infrastruktur, die Innovation ermöglicht, oder wird sie zur strukturellen Hürde, die Wachstum kanalisiert? Gomez’ Forderung nach unabhängigen Tests und Transparenz ist dabei als Gegenentwurf zu geschlossenen Standardrunden zu verstehen. Ob sich die Branche in diese Richtung bewegt, entscheidet sich an konkreten Mechanismen: Wer darf testen? Welche Teile der Testmethodik sind nachvollziehbar? Und wie wird verhindert, dass Sicherheitskriterien als strategischer Vorteil genutzt werden statt als gemeinsames Qualitätsmaß.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Cohere-CEO Gomez warnt vor AI-Sicherheits-Kartell der großen Labs" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Cohere-CEO Gomez warnt vor AI-Sicherheits-Kartell der großen Labs" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Cohere-CEO Gomez warnt vor AI-Sicherheits-Kartell der großen Labs« bei Google Deutschland suchen, bei Bing oder Google News!