Irregular sichert 80 Millionen US-Dollar zur Absicherung von KI-Modellen

SAN FRANCISCO / LONDON (IT BOLTWISE) – Das Unternehmen Irregular hat kürzlich eine Finanzierungsrunde in Höhe von 80 Millionen US-Dollar abgeschlossen, um die Sicherheit von KI-Modellen zu verbessern. Diese Investition, angeführt von Sequoia Capital und Redpoint Ventures, unterstreicht die wachsende Bedeutung der Sicherheitsmaßnahmen in der KI-Entwicklung.

Die Sicherheitsfirma Irregular hat kürzlich eine bedeutende Finanzierungsrunde abgeschlossen, bei der 80 Millionen US-Dollar eingesammelt wurden. Diese Runde wurde von Sequoia Capital und Redpoint Ventures angeführt, mit zusätzlicher Beteiligung von Assaf Rappaport, dem CEO von Wiz. Laut einer Quelle, die mit dem Deal vertraut ist, wird Irregular nun mit 450 Millionen US-Dollar bewertet.

Irregular, ehemals bekannt als Pattern Labs, hat sich bereits als wichtiger Akteur im Bereich der KI-Sicherheitsbewertungen etabliert. Das Unternehmen ist bekannt für seine Arbeit an Sicherheitsbewertungen für Modelle wie Claude 3.7 Sonnet sowie OpenAIs o3 und o4-mini. Besonders hervorzuheben ist ihr SOLVE-Framework, das zur Bewertung der Verwundbarkeitsdetektion von Modellen in der Branche weit verbreitet ist.

Während Irregular bereits erhebliche Fortschritte bei der Identifizierung bestehender Risiken von Modellen gemacht hat, zielt die aktuelle Finanzierung darauf ab, noch ehrgeizigere Ziele zu verfolgen: das Erkennen von aufkommenden Risiken und Verhaltensweisen, bevor sie in der Praxis auftreten. Hierfür hat das Unternehmen ein komplexes System von simulierten Umgebungen entwickelt, das intensive Tests eines Modells vor dessen Veröffentlichung ermöglicht.

Die Sicherheitsaspekte von KI-Modellen sind zu einem zentralen Thema in der Branche geworden, insbesondere angesichts der potenziellen Risiken, die von fortschrittlichen Modellen ausgehen. OpenAI hat im Sommer seine internen Sicherheitsmaßnahmen überarbeitet, um sich gegen mögliche Industriespionage zu wappnen. Gleichzeitig werden KI-Modelle immer besser darin, Software-Schwachstellen zu finden, was sowohl für Angreifer als auch Verteidiger ernsthafte Implikationen hat.

Für die Gründer von Irregular sind dies die ersten von vielen Sicherheitsherausforderungen, die durch die zunehmenden Fähigkeiten großer Sprachmodelle entstehen. „Wenn das Ziel der führenden Labore darin besteht, immer ausgefeiltere und leistungsfähigere Modelle zu schaffen, dann besteht unser Ziel darin, diese Modelle zu sichern“, sagt Mitbegründer Dan Lahav. „Aber es ist ein bewegliches Ziel, daher gibt es in Zukunft noch viel, viel mehr zu tun.“

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

Plaud NotePin Sprachrekorder, KI-Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

89,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!