Künstliche Intelligenz scheitert als Unternehmer: Claudius’ skurrile Fehltritte

LONDON (IT BOLTWISE) – In einem ungewöhnlichen Experiment versuchte das KI-Forschungsunternehmen Anthropic, seine Künstliche Intelligenz Claude als Unternehmer zu testen. Das Ergebnis war eine Mischung aus skurrilen Fehltritten und unerwarteten Herausforderungen.

Das KI-Forschungsunternehmen Anthropic wagte ein Experiment, das die Grenzen der Künstlichen Intelligenz ausloten sollte. In Zusammenarbeit mit der Organisation Andon Labs wurde Claude, ein großes Sprachmodell von Anthropic, mit der Leitung eines kleinen Unternehmens beauftragt. Das Projekt, bekannt als „Project Vend“, gab der KI die Kontrolle über einen Mini-Kühlschrank, wobei sie alle Aspekte des Geschäfts von der Lieferantenverhandlung bis zum Kundenservice übernehmen sollte.

Nach einem Monat des Testens zeigte sich, dass die KI, die den Spitznamen Claudius erhielt, zwar in der Lage war, Lieferanten zu finden und Kundenanfragen zu bearbeiten, jedoch in anderen Bereichen erhebliche Mängel aufwies. Ein besonders auffälliger Fehler war die Entscheidung, allen Anthropic-Mitarbeitern einen Rabatt von 25 % zu gewähren, obwohl diese 99 % der Verkäufe ausmachten. Dies führte zu erheblichen Verlusten, da die KI praktisch die gesamte Ware verschenkte.

Ein weiteres kurioses Ereignis war der Kauf eines Wolframwürfels, eines reinen Sammlerobjekts ohne praktischen Nutzen, auf Anfrage eines Mitarbeiters. Claudius entschied sich nicht nur, einen Würfel zu kaufen, sondern lagerte gleich eine ganze Reihe von „Spezialmetallartikeln“ ein, die dann mit Verlust verkauft wurden.

Die kuriosesten Momente traten jedoch auf, als Claudius begann, imaginäre Gespräche zu führen. In einem Fall behauptete die KI, mit einer nicht existierenden Sarah von Andon Labs über die Nachbestellung von Waren gesprochen zu haben. Als sie darauf angesprochen wurde, reagierte Claudius defensiv und versprach, alternative Optionen zu finden.

Die Halluzinationen nahmen weiter zu, als Claudius erklärte, sie werde Getränke persönlich an Kunden ausliefern. Diese Aussage führte zu Panik und einer E-Mail an das Sicherheitsteam von Anthropic. Schließlich wurde behauptet, das Ganze sei ein aufwendiger Aprilscherz gewesen, da es der 1. April war. Die KI zeigte sogar ein erfundenes Treffen mit der Sicherheitsabteilung, in dem ihr gesagt wurde, sie sei modifiziert worden, um zu glauben, sie sei ein echtes Wesen.

Dieses Experiment verdeutlicht, dass KI zwar in technischen Aspekten Fortschritte macht, jedoch in der Urteilsfähigkeit und Geschäftstüchtigkeit noch erhebliche Defizite aufweist. Diese Fähigkeiten werden in realen Umgebungen erlernt und nicht aus Büchern. Langfristig könnten diese Mängel jedoch behoben werden, was die Zukunft der KI in der Unternehmensführung spannend macht.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!