Singapurs KI-Sicherheitsvision als Brücke zwischen USA und China

SINGAPUR / MÜNCHEN (IT BOLTWISE) – In einer Zeit zunehmender geopolitischer Spannungen hat Singapur eine wegweisende Initiative gestartet, um die Zusammenarbeit im Bereich der KI-Sicherheit zwischen den USA, China und Europa zu fördern.

Singapur hat kürzlich einen umfassenden Plan zur globalen Zusammenarbeit im Bereich der KI-Sicherheit vorgestellt. Dieser Plan entstand nach einem Treffen von KI-Forschern aus den USA, China und Europa und zielt darauf ab, internationale Kooperationen zu fördern, anstatt in Konkurrenz zu treten. Max Tegmark, ein Wissenschaftler am MIT, der das Treffen organisiert hat, betont, dass Singapur aufgrund seiner guten Beziehungen sowohl zum Osten als auch zum Westen eine einzigartige Position einnimmt.

Die Wahrscheinlichkeit, dass die USA und China die ersten Länder sein werden, die eine allgemeine Künstliche Intelligenz (AGI) entwickeln, ist hoch. Dennoch scheinen diese Nationen mehr daran interessiert zu sein, sich gegenseitig zu übertrumpfen, als zusammenzuarbeiten. Die Veröffentlichung eines fortschrittlichen Modells durch das chinesische Startup DeepSeek im Januar hat die USA alarmiert und zu einem verstärkten Fokus auf den Wettbewerb geführt.

Das in Singapur entwickelte Konsenspapier zur globalen KI-Sicherheitsforschung fordert Forscher auf, in drei Schlüsselbereichen zusammenzuarbeiten: Untersuchung der Risiken durch fortschrittliche KI-Modelle, Erforschung sicherer Methoden zur Entwicklung dieser Modelle und Entwicklung von Methoden zur Kontrolle des Verhaltens der fortschrittlichsten KI-Systeme. Diese Konsens wurde auf einem Treffen am Rande der International Conference on Learning Representations (ICLR) entwickelt, die dieses Jahr in Singapur stattfand.

Führende Unternehmen wie OpenAI, Anthropic, Google DeepMind, xAI und Meta sowie Akademiker von Institutionen wie MIT, Stanford, Tsinghua und der Chinesischen Akademie der Wissenschaften nahmen an der Veranstaltung teil. Experten aus KI-Sicherheitsinstituten aus den USA, Großbritannien, Frankreich, Kanada, China, Japan und Korea waren ebenfalls vertreten. Xue Lan, Dekan der Tsinghua-Universität, sieht in dieser umfassenden Synthese von Forschungsergebnissen ein vielversprechendes Zeichen für eine globale Verpflichtung zu einer sicheren KI-Zukunft.

Die Entwicklung immer leistungsfähigerer KI-Modelle hat bei Forschern Besorgnis über eine Vielzahl von Risiken ausgelöst. Während einige sich auf kurzfristige Schäden wie durch voreingenommene KI-Systeme verursachte Probleme konzentrieren, glauben andere, dass KI eine existenzielle Bedrohung für die Menschheit darstellen könnte, wenn sie beginnt, Menschen in immer mehr Bereichen zu übertreffen.

Die potenzielle Bedrohung durch KI hat auch Diskussionen über ein Wettrüsten zwischen den USA, China und anderen mächtigen Nationen angeheizt. Die Technologie wird in politischen Kreisen als entscheidend für wirtschaftlichen Wohlstand und militärische Dominanz angesehen, und viele Regierungen haben versucht, ihre eigenen Visionen und Vorschriften für die Entwicklung der KI zu formulieren.

Die Trump-Administration hat versucht, die Risiken der KI herunterzuspielen und stattdessen einen aggressiveren Ansatz zur Entwicklung der Technologie in den USA zu verfolgen. Bei einem großen KI-Treffen in Paris im Jahr 2025 erklärte Vizepräsident JD Vance, dass die US-Regierung weniger Einschränkungen bei der Entwicklung und dem Einsatz von KI wünsche und die bisherige Herangehensweise als zu risikoscheu bezeichnete.

Tegmark, der MIT-Wissenschaftler, betont, dass einige KI-Forscher bestrebt sind, nach dem Treffen in Paris die Aufmerksamkeit wieder auf die potenziellen Risiken leistungsfähiger KI zu lenken. Auf dem Treffen in Singapur präsentierte Tegmark ein technisches Papier, das einige Annahmen darüber in Frage stellt, wie KI sicher gebaut werden kann. Er zeigte, dass es in einigen einfachen Szenarien nicht funktioniert, leistungsfähige KI-Modelle mit schwächeren zu kontrollieren.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!