Sichere KI: Yoshua Bengios Plan zur Eindämmung von Risiken

LONDON (IT BOLTWISE) – Die zunehmende Nutzung von Künstlicher Intelligenz (KI) in verschiedenen Bereichen hat nicht nur Fortschritte, sondern auch neue Risiken mit sich gebracht. In jüngster Zeit hat die Enthüllung, dass zwei Männer in Kalifornien KI nutzten, um Bombenbauanleitungen zu erhalten, die Dringlichkeit unterstrichen, KI-Systeme sicherer zu gestalten.

Die Enthüllung des FBI, dass KI zur Beschaffung von Bombenbauanleitungen verwendet wurde, hat die Diskussion über die Sicherheit von KI-Systemen neu entfacht. In einer Zeit, in der Unternehmen im Wettlauf um die Entwicklung der schnellsten und unterhaltsamsten KI-Systeme stehen, wird die Sicherheit oft vernachlässigt. Diese Konkurrenz führt häufig zu Abkürzungen, die die Sicherheit gefährden können.

Inmitten dieser Entwicklungen hat Yoshua Bengio, einer der Pioniere der modernen KI, eine neue Non-Profit-Organisation namens LawZero gegründet. Diese Organisation hat sich zum Ziel gesetzt, ein neues KI-Modell zu entwickeln, das sicherer ist als bestehende Systeme und speziell darauf abzielt, sozialen Schaden zu minimieren.

Bengios neues Projekt, bekannt als ‘Scientist AI’, soll durch seine Fähigkeit, seine Antwortsicherheit zu bewerten und zu kommunizieren, sowie durch die Erklärung seiner Entscheidungsprozesse, eine neue Ära der KI-Sicherheit einläuten. Diese Eigenschaften sollen helfen, die Problematik übermäßig selbstbewusster und falscher Antworten zu reduzieren.

Ein weiteres Merkmal von ‘Scientist AI’ ist die Integration eines ‘Weltmodells’, das die Entscheidungsfindung der KI auf ein fundiertes Verständnis der realen Welt stützt. Dieses Modell soll die Lücke schließen, die viele aktuelle KI-Systeme aufweisen, indem es ihnen ermöglicht, die Dynamik der physischen Welt besser zu erfassen.

Die Herausforderung für Bengio und sein Team besteht jedoch nicht nur in der technischen Umsetzung, sondern auch in der Finanzierung und der Verfügbarkeit von Daten. Mit einem Budget von 30 Millionen US-Dollar steht LawZero vor der Aufgabe, gegen Projekte mit weit größeren finanziellen Mitteln anzutreten. Zudem kontrollieren große Technologieunternehmen den Großteil der benötigten Daten.

Obwohl die Umsetzung von ‘Scientist AI’ mit Herausforderungen verbunden ist, könnte das Projekt einen wichtigen Impuls für die Entwicklung sicherer KI-Systeme geben. Wenn es gelingt, könnte es neue Standards für die Sicherheit von KI setzen und Entwickler, Forscher und politische Entscheidungsträger dazu motivieren, Sicherheitsaspekte stärker zu priorisieren.

Die Hoffnung ist, dass durch Initiativen wie diese eine Zukunft geschaffen wird, in der KI nicht nur technologischen Fortschritt, sondern auch gesellschaftlichen Nutzen bringt. Ein solches Modell könnte auch als Vorbild für andere Bereiche dienen, in denen technologische Innovationen mit potenziellen Risiken einhergehen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!