SAN FRANCISCO / LONDON (IT BOLTWISE) – Eine Deepfake-Stimme führte dazu, dass der Großvater einer Gründerin angeblich ein Lösegeld zahlte. Die Betrugsmasche funktionierte, weil er nicht erkennen konnte, dass die Stimme gefälscht war. Das Startup DetectifAI setzt deshalb auf KI-Modelle, die ohne Cloud-Auswertung direkt auf dem Smartphone laufen sollen. Neben Telefonherstellern adressiert die Firma auch Finanzinstitute, die bei Anrufen und Sprachnachrichten jedes Mal prüfen lassen, ob die Stimme echt ist.
Der Kern des Problems wirkt auf den ersten Blick banal: Wenn eine Stimme am Telefon wie eine vertraute Person klingt, fehlt den meisten Angerufenen schlicht die technische Möglichkeit zur Gegenprüfung. Im Fall von Tarini Padmanabhuni kam der Anruf ausgerechnet über die Beziehungsebene ihres Umfelds – der Großvater glaubte, mit seinem Bruder zu sprechen, hörte eine Entführungsgeschichte und zahlte, weil der Anruf plausibel genug klang. Erst später stellte sich heraus, dass die Stimme eine KI-generierte Imitation gewesen war. „What stayed with me wasn’t the money“, sagte Padmanabhuni. „It was that he had no way of telling.“ Damit benennt die Gründerin auch die eigentliche Angriffsfläche: Nicht das Erzeugen des Deepfakes ist der Engpass, sondern das sichere Erkennen in einem Moment, in dem Opfer keine Laborbedingungen haben.
DetectifAI setzt bei diesem Engpass an und adressiert dabei gleichzeitig die Frage, warum Deepfake-Detektion bisher oft zu spät kommt oder zu wenig in Geräte integriert ist. Denn viele derzeitige Lösungen laufen als Cloud-Dienst auf Remote-Servern. Das führt in der Praxis zu einer Lücke: Telefonhersteller können die Erkennung nicht ohne Weiteres als eingebettete Funktion in das Betriebssystem verankern, weil der Audioinhalt für die Prüfung erst außerhalb des Geräts verarbeitet werden muss. Padmanabhuni argumentiert, dass ihr Ansatz deshalb nicht in erster Linie darin besteht, große Erkennungsmodelle möglichst klein zu komprimieren, sondern KI-Modelle von Anfang an so zu designen, dass sie innerhalb der Smartphone-Software laufen können. Das Ziel lautet: ein unmittelbares Urteil darüber, ob Sprache KI-generiert ist – bei Telefonaten, Sprachnachrichten und weiteren Audioformaten – und zwar ohne dass die Audiodaten das Gerät verlassen.
Technisch heißt das im Kern: On-Device-Inferenz statt klassischer Server-zu-Server-Analyse. Auf dem Smartphone muss ein Modell Ergebnisse mit sehr niedriger Latenz liefern, während gleichzeitig Rechenleistung und Speicher begrenzt sind. Genau diese Randbedingungen sind entscheidend, wenn Deepfake-Erkennung wirklich „am Telefon“ funktionieren soll und nicht erst nachgelagert, etwa durch nachträgliche Auswertung. DetectifAI beschreibt zudem den Weg zur Produktintegration über ein Software Development Kit (SDK): Andere Unternehmen können die Erkennungslogik direkt in ihre Produkte einbauen und die Lösung über bestehende Lizenzkanäle erwerben. Für den Markt bedeutet das weniger eine einmalige App-Verteilung, sondern eher eine Skalierung über Hersteller- und Plattform-Ökosysteme. Padmanabhuni vergleicht das Vorgehen mit der Rolle eines Mobilfunkanbieters beim Start des ursprünglichen iPhones: Eine frühe exklusive Integration könne den Marktvorteil schaffen und Deepfake-Detektion als Standardspezifikation etablieren – ähnlich wie klassische Kameraauflösung als Feature wahrgenommen wird.
Der wirtschaftliche Kontext stützt die Dringlichkeit. Laut Angaben des FBI verloren Menschen in den USA im vergangenen Jahr rund 900 Millionen US-Dollar durch KI-getriebene Betrugsmaschen, das entspricht einem Plus von 24% gegenüber 2024. Besonders betroffen sind dabei Personen ab 60 Jahren; sie sollen sogar doppelt so viel verloren haben wie die Gruppe der 50- bis 59-Jährigen. Diese Statistik ist für Produktentscheidungen relevant, weil sie zeigt, dass nicht nur „technisch affine“ Zielgruppen existieren, sondern gerade ältere Nutzer, die häufig ohne weitere Sicherheitsschichten am Telefon handeln. In so einem Umfeld wird Erkennung im Gerät selbst noch wichtiger: Wenn die Prüfung erst nach dem Ereignis passiert, bleibt die Entscheidung im falschen Moment immer schon gefallen.
Wettbewerb gibt es dennoch reichlich. In der Deepfake-Voice-Detektion werden Lösungen von Unternehmen wie Reality Defender, Pindrop, Resemble AI sowie Microsoft Azure AI Content Safety genannt; außerdem wird Nuance erwähnt, das ebenfalls zu Microsoft gehört. Der zentrale Unterschied, den DetectifAI betont, liegt in der Betriebsform: Viele Angebote seien serverbasiert und ließen sich deshalb nicht so nahtlos als Bestandteil des Geräts ausliefern. Demgegenüber möchte DetectifAI die Kontrolle über die Erkennungsfähigkeit näher an den Nutzer bringen – buchstäblich bis in die Betriebssystemschicht. Für die Umsetzung heißt das außerdem, dass die Lösung nicht nur Deepfakes erkennen soll, sondern im Idealfall zusätzliche Vertrauensmechanismen koppeln kann. Genau das zeigt sich in einem bereits laufenden Einsatz: DetectifAI wickelt nach eigenen Angaben über 100.000 Anrufe pro Monat für Finanzinstitute in Indien ab. Dabei kommen KI-Voice-Agenten zum Einsatz, etwa für Debt-Collection und Follow-ups zu Kreditunterlagen; bei jedem Anruf werden Deepfake-Detektion und Speaker Verification kombiniert, also eine Prüfung, ob der Anrufer tatsächlich die beanspruchte Identität besitzt.
Auch der Go-to-Market-Ansatz folgt dieser Logik. Die Firma verkauft zuerst an Telefonhersteller und lizenziert ihre Softwaretools so, dass die Erkennung als eingebautes Feature verfügbar wird. Parallel nennt Padmanabhuni eine zweite Erlösquelle: Lizenzen an Unternehmen und spezialisierte Fraud-Prevention-Firmen. Damit positioniert sich DetectifAI weniger als reiner „Detection-as-a-Service“-Anbieter, sondern als Baustein in vorhandenen Produktlinien. Das wird zusätzlich durch das frühe Feedback aus einem kleinen Beta-Test illustriert: Nutzer konnten verdächtige Sprachnachrichten weiterleiten und erhielten eine Einschätzung, ob die Stimme echt ist. Für Padmanabhuni war besonders, dass ein Tester – dessen Angehörige bereits Opfer eines Betrugs wurden – ohne Zögern für die Lösung zahlen wollte. Ihre Formulierung stellt damit den Nutzen nicht nur als abstrakte Präventionsidee dar, sondern als konkrete Entlastung gegenüber dem klassischen Dilemma: Man hört etwas, das „passt“, und ohne technische Gegenprüfung fehlt der Beweis.
Finanziell befindet sich das Startup laut Darstellung noch in einer frühen Phase und hat einen Seed-Teilbetrag von Investoren eingesammelt, darunter Josh Constine und Manohar Kamath. Für das Produkt wiederum ist die nächste Hürde klar: Die On-Device-Erkennung muss in heterogenen Gerätekonfigurationen zuverlässig laufen und dabei akzeptable Kosten für Rechenzeit und Energie verursachen. Außerdem wird die Erkennungsqualität im realen Einsatz entscheidend sein, weil Audioqualität, Hintergrundgeräusche und unterschiedliche Sprechstile stark variieren. Wenn DetectifAI diese Punkte erfüllt, könnte sich der Markt vom Muster „Warnung nach dem Betrug“ hin zu „Prüfung vor der Entscheidung“ verschieben. Eine solche Verschiebung würde nicht nur Betrugsprävention stärken, sondern auch den Telefon- und Sicherheitsmarkt neu ausrichten: Hersteller müssten Deepfake-Erkennung als Infrastruktur-Funktion behandeln, nicht als optionale Zusatzsoftware.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "DetectifAI will Deepfake-Spracherkennung direkt aufs Smartphone bringen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "DetectifAI will Deepfake-Spracherkennung direkt aufs Smartphone bringen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »DetectifAI will Deepfake-Spracherkennung direkt aufs Smartphone bringen« bei Google Deutschland suchen, bei Bing oder Google News!