MENLO PARK / MÜNCHEN (IT BOLTWISE) – Meta hat kürzlich angekündigt, dass es die Entwicklung von KI-Systemen einstellen könnte, die als zu riskant eingestuft werden. Diese Entscheidung spiegelt die wachsende Besorgnis über die potenziellen Gefahren wider, die von hochentwickelten KI-Technologien ausgehen können.



Meta, das Unternehmen hinter Facebook, hat in einem neuen Richtliniendokument, dem sogenannten Frontier AI Framework, dargelegt, dass es bestimmte KI-Systeme möglicherweise nicht veröffentlichen wird, wenn diese als zu riskant angesehen werden. Diese Systeme werden in zwei Kategorien unterteilt: „hohes Risiko“ und „kritisches Risiko“.

Systeme, die als „kritisches Risiko“ eingestuft werden, könnten katastrophale Folgen haben, die in ihrem Einsatzkontext nicht gemildert werden können. Im Gegensatz dazu könnten „hohe Risiko“-Systeme zwar Angriffe erleichtern, jedoch nicht mit der gleichen Zuverlässigkeit wie kritische Systeme. Beispiele für solche Risiken umfassen die automatisierte Kompromittierung von Unternehmensnetzwerken und die Verbreitung biologischer Waffen.

Interessanterweise basiert die Risikobewertung bei Meta nicht auf empirischen Tests, sondern auf dem Input von internen und externen Forschern, die von hochrangigen Entscheidungsträgern überprüft werden. Meta argumentiert, dass die Wissenschaft der Evaluierung nicht robust genug sei, um definitive quantitative Metriken für die Risikobewertung eines Systems bereitzustellen.

Falls ein System als hochriskant eingestuft wird, plant Meta, den Zugang intern zu beschränken und es erst freizugeben, wenn Maßnahmen zur Risikominderung umgesetzt wurden. Bei kritischen Risiken hingegen wird die Entwicklung gestoppt, bis das System sicherer gemacht werden kann.

Diese neue Richtlinie könnte als Reaktion auf die Kritik an Metas offener Entwicklungsstrategie gesehen werden. Während Meta seine KI-Technologie offen zugänglich macht, hat dies auch dazu geführt, dass einige Modelle von US-Gegnern für militärische Zwecke genutzt wurden.

Im Vergleich dazu verfolgt das chinesische Unternehmen DeepSeek ebenfalls eine offene Strategie, jedoch mit weniger Sicherheitsvorkehrungen, was zu toxischen und schädlichen Ausgaben führen kann. Meta scheint mit seinem neuen Framework einen Mittelweg zwischen Offenheit und Sicherheit finden zu wollen.

Meta betont, dass durch die Berücksichtigung von Nutzen und Risiken bei der Entwicklung und Bereitstellung fortschrittlicher KI-Technologien die Vorteile für die Gesellschaft erhalten bleiben können, während gleichzeitig ein angemessenes Risikoniveau aufrechterhalten wird.

Zu den Top-Stories!


Amazon-Trendangebote der letzten 24 Stunden mit bis zu 78% Rabatt (Sponsored)

Angebot
EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner
1.798 Bewertungen
EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner
  • NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
  • VOLLSTÄNDIGE INTERAKTIONEN: Setzen Sie sich auf den Desktop und erleben Sie Eiliks Welt der Emotionen mit nur einer Berührung. Kopf, Bauch und Rücken, die jeweils unterschiedliche Emotionen auslösen. Mit einer Vielzahl von Ausdrücken, die darauf warten, entdeckt zu werden, können Sie es auch anheben oder sanft auf seinen Kopf tippen. Sanft oder temperamentvoll, alles hängt von Ihrer Interaktion ab. Das Beste von allem, keine Notwendigkeit für WiFi oder Bluetooth Verbindungen, einfach einschalten und mit ihm spielen, wann immer Sie wollen.
  • REGELMÄßIGE UPDATES: Dank seiner fortschrittlichen Technologie und häufigen Firmware-Updates bleibt Eilik immer auf dem neuesten Stand und Sie entdecken ständig neue interaktive Inhalte.
  • VIELE FUNKTIONEN: Erleben Sie die vielen Funktionen wie z.B Gesten, Emotionen, Rollenspiele, Tanzmodus oder Timer. Der niedliche Roboter wird zu einem wahren Freund und sorgt für viel Vergnügen.
  • MEHR SPAß: Stellen Sie ihn einfach auf Ihren Schreibtisch und erleben Sie, wie Eilik durch viele vergnügliche Animationen eine wunderbare Atmosphäre schafft. Der ideale Alltagsbegleiter.

Bezahlte Produktplatzierung


Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!
Meta erwägt Stopp der Entwicklung riskanter KI-Systeme
Meta erwägt Stopp der Entwicklung riskanter KI-Systeme (Foto: DALL-E, IT BOLTWISE)

Folgen Sie aktuelle Beiträge über KI & Robotik auf Twitter, Telegram, Facebook oder LinkedIn!
Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. IT BOLTWISE® schließt jegliche Regressansprüche aus.








Die nächste Stufe der Evolution: Wenn Mensch und Maschine eins werden | Wie Futurist, Tech-Visionär und Google-Chef-Ingenieur Ray Kurzweil die Zukunft der Künstlichen Intelligenz sieht
39 Bewertungen
Die nächste Stufe der Evolution: Wenn Mensch und Maschine eins werden | Wie Futurist, Tech-Visionär und Google-Chef-Ingenieur Ray Kurzweil die Zukunft der Künstlichen Intelligenz sieht
  • Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
  • Kurzweil skizziert in diesem intensiven Leseerlebnis eine Zukunft, in der Mensch und Maschine untrennbar miteinander verbunden sind
  • Eine Zukunft, in der wir unser Bewusstsein auf eine höhere Ebene heben werden, in der wir uns aus virtuellen Neuronen neu erschaffen werden, in der wir länger leben, gesünder und freier sein werden als je zuvor
  • »Eine faszinierende Erkundung unserer Zukunft, die tiefgreifende philosophische Fragen aufwirft
  • « Yuval Noah HarariDank KI eröffnen sich uns in sämtlichen Lebensbereichen ungeahnte Möglichkeiten für Fortschritt, und das in exponentiellem Tempo
Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
123 Bewertungen
Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
  • Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
  • Sein topaktuelles Buch über künstliche Intelligenz informiert, klärt auf – und macht klar, dass niemand vorhersehen kann, ob mit KI Rettung oder Untergang auf die Menschheit zukommt
  •  »Wir brauchen nicht darüber nachzudenken, ob eine allgemeine KI irgendwann Bewusstsein hat oder die Menschheit vernichtet – das ist Science Fiction
  • Aber über reale Risiken und Gefahren von böswilligen Menschen, die KI für ihre Zwecke missbrauchen, müssen wir nachdenken – gründlich
  • Und über die Verantwortung der reichsten Unternehmen der Welt auch
KI Exzellenz: Erfolgsfaktoren im Management jenseits des Hypes. Zukunftstechnologien verstehen und künstliche Intelligenz erfolgreich in der Arbeitswelt nutzen. (Haufe Fachbuch)
69 Bewertungen
KI Exzellenz: Erfolgsfaktoren im Management jenseits des Hypes. Zukunftstechnologien verstehen und künstliche Intelligenz erfolgreich in der Arbeitswelt nutzen. (Haufe Fachbuch)
  • Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
  • Der Experte für KI-Implementierung im Unternehmen Dr
  • Tawia Odoi erklärt verständlich, was sich hinter KI verbirgt und welche immensen Vorteile sie gegenüber herkömmlicher Software bietet
  • Ihm geht es darum, Berührungsängste abzubauen und KI endlich zu verstehen und anzuwenden
  • Sein Buch zeigt die treibenden Kräfte auf und benennt auch mögliche Hindernisse
Künstliche Intelligenz und Hirnforschung: Neuronale Netze, Deep Learning und die Zukunft der Kognition
38 Bewertungen
Künstliche Intelligenz und Hirnforschung: Neuronale Netze, Deep Learning und die Zukunft der Kognition
  • Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
  • Im Bereich der KI gab es in den letzten Jahren mehrere spektakuläre Durchbrüche, von alphaGo über DALL-E 2 bis ChatGPT, die so bis vor kurzem noch völlig undenkbar waren
  • Doch schon heute arbeiten Forscher an den Innovationen von morgen, wie hybrides maschinelles Lernen oder neuro-symbolische KI
  • Aber was verbirgt sich dahinter überhaupt?Anhand aktueller Forschungsergebnisse und spannender Beispiele aus der Praxis bietet dieses Sachbuch einen verständlichen Einstieg in die Grundlagen und Herausforderungen dieser faszinierenden Disziplinen
  • Sie erfahren, was Neurowissenschaft und Psychologie über die Funktionsweise des Gehirns wissen und wie Künstliche Intelligenz arbeitet
Künstliche Intelligenz und der Sinn des Lebens: Ein Essay
1.277 Bewertungen
Künstliche Intelligenz und der Sinn des Lebens: Ein Essay
  • Richard David Precht beschäftigt sich mit den wichtigsten Fragen rund um das Thema »Künstliche Intelligenz« – und bezieht dabei auch die tiefgreifenden gesellschaftlichen Veränderungen durch die aktuelle Krise mit ein
  • Während die drohende Klimakatastrophe und der enorme Ressourcenverbrauch der Menschheit den Planeten zerstört, machen sich Informatiker und Ingenieure daran, die Entwicklung einer Künstlichen Intelligenz voranzutreiben, die alles das können soll, was wir Menschen auch können – nur vielfach »optimierter«
  • Ausgehend von völlig falschen Annahmen soll den Maschinen sogar eine menschenähnliche Moral einprogrammiert werden
  • Richard David Precht macht uns eindringlich klar, dass das nicht möglich ist
  • Denn unser Leben besteht nicht aus der Abfolge vorausberechneter Schritte

Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de. Da wir bei KI-erzeugten News und Inhalten selten auftretende KI-Halluzinationen nicht ausschließen können, bitten wir Sie bei Falschangaben und Fehlinformationen uns via eMail zu kontaktieren und zu informieren. Bitte vergessen Sie nicht in der eMail die Artikel-Headline zu nennen: "Meta erwägt Stopp der Entwicklung riskanter KI-Systeme".
Stichwörter AI Artificial Intelligence Entwicklung KI Künstliche Intelligenz Meta Risiko Sicherheit
Alle Märkte in Echtzeit verfolgen - 30 Tage kostenlos testen!


#Abo
Telegram
LinkedIn
Facebook
Twitter
Instagram
#Podcast
YouTube
Spotify
Apple
#Werbung
Shirts
Roboter
Home
Bücher
AI Jobs
Bitcoin
Startups
Briefing

Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Meta erwägt Stopp der Entwicklung riskanter KI-Systeme" für unsere Leser?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert



Es werden alle Kommentare moderiert!

Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.

Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.

Du willst nichts verpassen?

Du möchtest über ähnliche News und Beiträge wie "Meta erwägt Stopp der Entwicklung riskanter KI-Systeme" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.

298 Leser gerade online auf IT BOLTWISE®