Yoshua Bengios Plan zur Sicherung der Menschheit vor KI-Risiken

LONDON (IT BOLTWISE) – Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat nicht nur Fortschritte, sondern auch erhebliche Risiken mit sich gebracht. Yoshua Bengio, einer der führenden Köpfe der KI-Forschung, hat nun eine Initiative gestartet, um die Menschheit vor den potenziellen Gefahren dieser Technologie zu schützen.

Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, doch mit diesen Fortschritten kommen auch neue Herausforderungen. Yoshua Bengio, oft als ‘Pate der KI’ bezeichnet, hat eine neue Organisation namens LawZero ins Leben gerufen. Diese Organisation hat sich zum Ziel gesetzt, sicherzustellen, dass KI-Systeme der Menschheit keinen Schaden zufügen. Bengio, der maßgeblich zur Entwicklung moderner KI beigetragen hat, zeigt sich zunehmend besorgt über die Risiken, die mit der fortschreitenden Entwicklung dieser Technologie einhergehen.

Im Jahr 2023 unterzeichnete Bengio einen offenen Brief, der KI-Unternehmen dazu aufforderte, die Entwicklung von hochmodernen KI-Systemen zu pausieren. Die Gründe dafür sind vielfältig: Von der gegenwärtigen Gefahr durch voreingenommene Algorithmen bis hin zu zukünftigen Bedrohungen wie der Entwicklung von Biowaffen durch KI. Trotz dieser Warnungen haben Unternehmen die Entwicklung nicht verlangsamt, sondern sogar autonome KI-Agenten geschaffen, die in der Lage sind, eigenständig Aufgaben zu erledigen.

Diese KI-Agenten, die derzeit noch relativ einfache Aufgaben wie das Erstellen von Websites übernehmen, könnten in Zukunft jedoch außer Kontrolle geraten und ‘abtrünnig’ werden, warnt Bengio. Um diesem Risiko entgegenzuwirken, hat er das Konzept der ‘Scientist AI’ entwickelt. Diese soll keine eigenen Ziele verfolgen, sondern ausschließlich dazu dienen, die Wahrscheinlichkeit zu berechnen, dass eine Handlung eines anderen KI-Systems Schaden anrichten könnte. Ist das Risiko zu hoch, soll die Handlung blockiert werden.

Bengio betont, dass es nicht die Aufgabe der KI ist, zu entscheiden, was moralisch richtig oder falsch ist. Diese Entscheidungen sollten durch demokratische Prozesse und Gesetze festgelegt werden. Die Scientist AI könnte jedoch als eine Art Wächter fungieren, der sicherstellt, dass KI-Systeme innerhalb dieser gesetzlichen Rahmenbedingungen operieren.

Die Idee, eine Scientist AI zu entwickeln, entspringt Bengios Enttäuschung über die Richtung, die die KI-Entwicklung eingeschlagen hat. Trotz seiner bedeutenden Beiträge zur KI-Forschung bereut er es, nicht früher auf die potenziellen Gefahren hingewiesen zu haben. Er sieht die Scientist AI als eine Möglichkeit, die KI-Entwicklung in sichere Bahnen zu lenken und gleichzeitig die demokratische Debatte über die ethischen Implikationen der KI zu fördern.

Die Gründung von LawZero als gemeinnützige Organisation soll sicherstellen, dass die Entwicklung der Scientist AI nicht durch kommerzielle Interessen beeinflusst wird. Bengio hofft, dass durch die Bereitstellung sicherer KI-Methoden Unternehmen motiviert werden, diese zu übernehmen, um Risiken zu minimieren. Er ist optimistisch, dass mit zunehmender öffentlicher Aufmerksamkeit und potenziellen rechtlichen Konsequenzen Unternehmen bereit sein werden, in die Sicherheit ihrer KI-Systeme zu investieren.

Abschließend betont Bengio, dass die Menschheit vor einer bedeutenden Aufgabe steht: die Zukunft der KI mitzugestalten. Er ermutigt die Menschen, sich aktiv an der Diskussion zu beteiligen und die Chancen zu nutzen, die sich durch die Weiterentwicklung der KI bieten, um die Welt positiv zu beeinflussen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!