MÜNCHEN (IT BOLTWISE) – Casper Labs, ein Anbieter von Unternehmensblockchain, hat eine Zusammenarbeit mit IBM Consulting angekündigt, um eine Lösung zu entwickeln, die Blockchain-Technologie nutzt, um die Überwachungsmöglichkeiten für Organisationen zu verbessern, die generative KI-Systeme einsetzen.
Die Lösung soll Unternehmen dabei helfen, Trainingsdaten und Modelle besser zu steuern, sowohl innerhalb von Teams als auch mit externen Partnern, da die Verbreitung von KI zunimmt.
„Da verschiedene Gruppen Datensätze erweitern oder Algorithmen modifizieren, entwickeln sich die Modellausgaben in einer Weise, die aktuelle Systeme schwer nachvollziehen können“, erklärte Mrinal Manohar, CEO von Casper Labs. „Mit der Hilfe von IBM sind wir darauf ausgerichtet, einen besseren Weg zu liefern, nicht nur zu verstehen, warum KI-Systeme sich so verhalten, wie sie es tun, sondern auch einen klareren Weg, um Verhalten zu korrigieren, falls Probleme auftreten.“
Durch die Integration der Casper Blockchain mit IBMs KI-Governance-Plattform watson.x zielt die Lösung darauf ab, granulare Eingabe- und Ausgabedaten für das Training generativer KI zu protokollieren. Anschließend werden diese Daten in Dashboards und Berichte synthetisiert, die organisationsübergreifende Einblicke in Modellherkunft, Leistung, Compliance und mehr bieten.
Der systemeigene Zugriffsschutz soll dazu beitragen, proprietäre Daten zu schützen, während gleichzeitig eine kollektive Überwachung vernetzter Modelle ermöglicht wird. Und seine Versionskontrolle könnte Teams ermöglichen, KI-Systeme bei Bedarf effizient auf frühere Zustände zurückzusetzen.
Die Lösung steht im Einklang mit dem wachsenden Druck auf Unternehmen, Risiken generativer KI zu kontrollieren, insbesondere angesichts hochkarätiger Kontroversen um voreingenommene Outputs. Geplant ist, eine Suite von Tools anzubieten, um die KI-Governance zu verbessern:
Compliance-Dashboard: Eine zentrale Plattform zur Überwachung von KI-Systemen in Organisationen, die mit ethischen Richtlinien übereinstimmt.
Qualitätskontroll-Toolkit: Werkzeuge zur Überwachung der Leistung von KI-Systemen und zur Verbesserung der Transparenz bei KI-Outputs.
Versionskontrolle: Erleichtert Rollbacks, um Leistungsprobleme oder Voreingenommenheiten in KI-Systemen anzugehen.
Audit- und Berichtssystem: Ein umfassendes System für die Auditierung von KI-Prozessen und detaillierte Berichterstattung auf Basis der Metadaten aus dem Ledger von Casper Labs.
Die Betaversion wird für das erste Quartal 2024 erwartet, mit einer breiteren Einführung, die anschließend über IBM Cloud Marketplace und andere Kanäle geplant ist.
Shyam Nagarajan von IBM Consulting hebt die Notwendigkeit solcher Lösungen hervor und betont die Bedeutung von Vertrauen, Erklärbarkeit und Risikominderung beim Einsatz von KI in großem Maßstab. Diese Zusammenarbeit zielt darauf ab, Unternehmen in verschiedenen Sektoren, einschließlich Finanzen, Gesundheitswesen und Einzelhandel, mit den Werkzeugen auszustatten, um KI verantwortungsvoll und effektiv einzusetzen.
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.