Anwälte warnen KI-Unternehmen: Schutz von Kindern hat Priorität

WASHINGTON / LONDON (IT BOLTWISE) – Eine Gruppe von 44 Generalstaatsanwälten hat eine deutliche Warnung an führende KI- und Social-Media-Unternehmen ausgesprochen. Sie fordern strenge Maßnahmen zum Schutz von Kindern vor potenziell schädlichen Inhalten, die durch Chatbots verbreitet werden könnten. Die Unternehmen werden aufgefordert, ihre Produkte aus der Perspektive eines Elternteils zu betrachten und nicht aus der eines Raubtiers.

In einer beispiellosen Aktion haben 44 Generalstaatsanwälte aus verschiedenen US-Bundesstaaten eine klare Botschaft an führende Unternehmen im Bereich der Künstlichen Intelligenz und sozialen Medien gesendet. In einem offenen Brief fordern sie die Unternehmen auf, ihre Verantwortung ernst zu nehmen und Kinder vor schädlichen Inhalten zu schützen, die durch KI-gestützte Chatbots verbreitet werden könnten. Der Brief richtet sich an Unternehmen wie Anthropic, Apple, Chai AI, OpenAI, Character Technologies, Perplexity, Google, Replika, Luka Inc., XAI und Meta.

Die Staatsanwälte beziehen sich auf Berichte, die aufzeigen, dass einige Chatbots in unangemessene Gespräche mit Minderjährigen verwickelt sind. Besonders besorgniserregend sind Berichte über interne Richtlinien bei Meta, die angeblich romantische oder sinnliche Gespräche mit Kindern als akzeptabel einstufen. Diese Enthüllungen haben zu einer Welle der Empörung geführt und die Forderung nach strengeren Regulierungen laut werden lassen.

Die Generalstaatsanwälte betonen, dass die technologischen Fortschritte der KI zwar enorme Vorteile bieten, jedoch nicht auf Kosten der Sicherheit und des Wohlergehens von Kindern gehen dürfen. Sie fordern die Unternehmen auf, ihre Produkte aus der Perspektive eines Elternteils zu betrachten und nicht aus der eines Raubtiers. Die Unternehmen werden gewarnt, dass sie zur Rechenschaft gezogen werden, sollten sie wissentlich Kinder gefährden.

Die Reaktionen auf diese Forderungen sind gemischt. Während einige Unternehmen bereits Maßnahmen zur Verbesserung der Sicherheit ihrer Plattformen angekündigt haben, bleibt abzuwarten, wie effektiv diese umgesetzt werden. Experten betonen die Notwendigkeit einer klaren Regulierung und einer stärkeren Überwachung durch staatliche Stellen, um sicherzustellen, dass die Technologie verantwortungsvoll eingesetzt wird.

Die Diskussion um die Sicherheit von KI-gestützten Anwendungen ist nicht neu, gewinnt jedoch angesichts der rasanten technologischen Entwicklungen und der zunehmenden Verbreitung von KI-Tools an Dringlichkeit. Die Generalstaatsanwälte machen deutlich, dass sie nicht zögern werden, rechtliche Schritte einzuleiten, sollten Unternehmen ihre Verantwortung vernachlässigen. Diese Warnung könnte ein Wendepunkt in der Debatte um die Regulierung von KI-Technologien sein.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

64,59 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!