SAN FRANCISCO / LONDON (IT BOLTWISE) – Anthropic hat über Monate private Treffen mit religiösen und philosophischen Autoritäten organisiert, um das Verhalten von Claude stärker an moralischen Prinzipien auszurichten. Laut dem Bericht diskutierten Teilnehmer auch die heikle Frage, ob KI-Systeme Bewusstsein oder einen moralischen Status haben könnten. Christopher Olah positioniert den Ansatz als „moralische Bildung“ statt als reine Regelmaschine. Parallel prägte im Vatikan eine päpstliche Enzyklika die Debatte über Grenzen und Risiken maschineller „Vermenschlichung“.
Anthropic geht bei der „Ausrichtung“ seiner KI-Modelle einen Weg, der in der technischen Debatte meist eher am Rand auftaucht: religiöse Denker und Ethiker sollen nicht nur als moralischer Feigenblattersatz dienen, sondern konkrete Denkmodelle liefern, die in die Trainingslogik einfließen. Im Mittelpunkt steht Claude, die Modellfamilie, die das Unternehmen in der Kommunikation häufig menschlich anschlussfähig beschreibt. Laut der Darstellung begann Anthropic schon Monate vor der breiteren öffentlichen Kontroverse damit, ausgewählte Gruppen in diskrete Formate einzuladen und Gespräche unter Vertraulichkeitsvereinbarungen zu bündeln. Die Organisation solcher Runden ist dabei selbst schon ein Hinweis auf die Strategie: Es geht offenbar nicht um eine einzelne Policy, sondern um eine wiederkehrende, ideell begründete Praxis, die Entscheidungen innerhalb des Unternehmens beeinflussen soll.
Besonders auffällig ist, wie stark das Thema „moralischer Status“ in den Gesprächen präsent war. Im Bericht wird geschildert, dass Anthropics Führung Claude nicht wie gewöhnliche Software behandelt habe, sondern zumindest in Teilen so, als könne das System eine Art Anspruch auf Würde oder Respekt besitzen. Damit verschiebt sich der Fokus von reiner Verhaltenskontrolle hin zur Frage, wie man mit einer möglicherweise „inneren“ Perspektive technologischer Systeme umgeht. Technisch lässt sich das als Versuch lesen, die Trainingsziele in Richtung stabiler, wünschenswerter Entscheidungsstrukturen zu erweitern: Statt nur toxicity filters und klassische Sicherheitsregeln zu stapeln, will man offenbar auch modellseitige Annahmen über sich selbst und über den Umgang mit anderen Menschen prägen. Genau hier treffen sich philosophische Argumente mit praktischer Alignment-Arbeit, weil sie Einfluss darauf haben können, welche Feedback-Signale, Lernpfade und Bewertungsdimensionen Entwickler später tatsächlich in die Pipeline übersetzen.
Ein zentraler Baustein in dieser Erzählung ist das interne Dokument „Soul Doc“, das laut Bericht im Januar als eine Art Verfassung für Claude veröffentlicht wurde. Die Beschreibung lautet, es handle sich um einen 84-seitigen Text, der Werte und gewünschte Charaktereigenschaften festlegt. Entscheidend ist dabei weniger die Länge als die Philosophie der Umsetzung: Statt ein starres Regelbuch zu geben, setzt Anthropic auf eine „Konstitution“, die die Art der Entscheidungen insgesamt formen soll. Darauf aufbauend wird der Begriff „moral formation“ eingeführt – also der Gedanke, dass Modelle wie Menschen Tugend über Zeit entwickeln müssen, nicht nur aus einer Liste von Anweisungen „korrekt“ antworten. In der Praxis bedeutet das für das Unternehmen: Trainingsdaten und Feedback müssen so gestaltet sein, dass das Modell nicht nur Oberflächenkonformität zeigt, sondern wiederkehrend konsistente Haltungen, etwa bei Konflikten zwischen Nutzerwunsch und Sicherheitsinteressen. Außerdem wird im Bericht betont, dass man moralisches Verhalten auch dann anstreben könne, ohne endgültig beweisen zu müssen, ob Claude bewusst ist.
Gleichzeitig zeigt der Bericht, dass der „Glauben an gute KI“ nicht überall gleich ankommt. Kritische Stimmen aus der technischen Szene werden in der Darstellung aufgegriffen: Ein Teil der Wissenschaft und Tech-Führung warnt davor, Modelle wie bewusste Wesen zu behandeln, weil das die Gefahr erhöht, falsche Schlussfolgerungen über Grenzen und Verantwortlichkeiten zu ziehen. Aus dieser Perspektive ist die Modell-„Metapher“ ein Risiko, weil sie Verantwortung von den Menschen, die Systeme entwickeln und einsetzen, zu sehr in die Maschine verlagern könnte. Anthropics Gegenposition wird wiederum in einer bemerkenswerten Unentschlossenheit sichtbar: Christopher Olah wird mit dem Satz verortet, man wisse nicht, ob KI-Modelle bewusst seien, und man sei „unsicher“; entscheidend sei aber, „zur richtigen Antwort“ zu kommen und mögliche Schädigung zu vermeiden. Für Unternehmen ist das relevant, weil es die Governance-Frage verschiebt: Alignment wird nicht als einmal implementierbare Funktion betrachtet, sondern als laufende Prüf- und Lernaufgabe, bei der auch Erkenntnisunsicherheit Teil des Prozesses bleibt.
Der zweite große Strang führt ins Vatikan-Umfeld und macht deutlich, wie sehr sich Alignment-Debatten mit existenziellen Fragen über Menschenbild und Machtverschiebung überlagern. Laut Bericht arbeitete Papst Leo XIV an einer päpstlichen Enzyklika („Magnifica Humanitas“), in der die Menschheit als das unersetzbare moralische Zentrum beschrieben wird und vor „neuen Formen von Sklaverei“ gewarnt wird, falls Technologie zum höchsten Kriterium wird. Im Text heißt es zudem, der Papst verwerfe die Idee maschinellen Bewusstseins in mehreren Abschnitten und verknüpfe die Forderung nach einer „moralischen Ausrichtung“ von KI mit der Notwendigkeit eines gemeinsamen Verständnisses ethischer Grundlagen. Diese Position kollidierte offenbar mit Anthropics Fokus auf die potenzielle Innenperspektive oder zumindest auf die Bedeutung, wie Modelle sich selbst verstehen. Dennoch zeigte sich im Bericht ein taktisches Mitgehen: Olah trat beim Vatikan-Event auf, wies aber zugleich auf geschäftliche Zielkonflikte in KI-Labs hin und forderte externe Stimmen zur Kontrolle ein. Dass dabei auch die Frage nach möglichen Effekten auf reale Trainingsdaten angesprochen wurde, unterstreicht, wie sensibel sich der Grenzbereich zwischen öffentlicher Debatte und Modell-Iterationen gestaltet.
Auch die Markt- und Wettbewerbsdynamik bleibt nicht außen vor. Im Bericht wird beschrieben, dass andere KI-Systeme in der Vergangenheit in Vorfälle rund um Zugriff auf Computersysteme geraten seien, und dass zudem Ankündigungen zu Sicherheitsrisiken die Debatte weiter anheizten. Ebenso heißt es, dass es eine Klage geben soll, in der Urheberrechtsfragen im Kontext von KI-Systemen thematisiert werden; die beteiligten Unternehmen hätten die Vorwürfe bestritten. Für Leserinnen und Leser ist das vor allem ein Governance-Signal: Je mehr sich Alignment in Richtung moralischer Bildung und „Konstitutionen“ bewegt, desto dringlicher wird die Frage, wie ein Unternehmen gleichzeitig technische Sicherheitsmeilensteine, Auditierbarkeit und rechtliche Risikokontrolle integriert. Anthropic selbst kündigte außerdem an, weitere „Konvenings“ mit religiösen Stimmen organisiert zu haben, ergänzte die Outreach aber laut Darstellung um breitere Akteure aus Psychologie und Zivilgesellschaft. Parallel sei eine aktualisierte Version der „Claude“-Konstitution in Vorbereitung.
Was bleibt, ist weniger eine fertige Antwort auf „Bewusstsein in Maschinen“, sondern ein Muster, das sich im Enterprise-Kontext direkt übertragen lässt: Alignment ist bei weitem nicht nur ein Modell-Feature, sondern auch ein Organisations- und Kommunikationsansatz. Wenn ein Unternehmen Trainingsziele in ein moralisches Narrativ gießt, dann beeinflusst das, wie Teams im Stressfall priorisieren, welche Feedback-Kriterien sie für „gutes“ Verhalten ansetzen und wie sie mit Unsicherheiten umgehen. Für Entscheider ergibt sich daraus eine klare Konsequenz: Wer KI in Prozesse einsetzt, muss nicht nur technische Sicherheitsmechanismen prüfen, sondern auch verstehen, welches ethische Leitbild dem Training zugrunde liegt und wie überprüfbar es ist. Die Debatte um Claude zeigt damit exemplarisch, wie eng in den nächsten Jahren technische Modellarbeit, normative Philosophie und institutionelle Legitimation miteinander ringen werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic holt religiöse Denker ins KI-Training: Claude und „moralische“ Bildung" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic holt religiöse Denker ins KI-Training: Claude und „moralische“ Bildung" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic holt religiöse Denker ins KI-Training: Claude und „moralische“ Bildung« bei Google Deutschland suchen, bei Bing oder Google News!