LONDON (IT BOLTWISE) – Das Startup Scale Cognition argumentiert, dass sich Halluzinationen in Chatbots nicht nur mit „Thinking Mode“ oder Prompt-Tricks reduzieren lassen. Stattdessen habe man die KI-Systeme von Grund auf neu gebaut: Training, interne Algorithmen und sogar Loss-Funktionen sollen die wiederholbare Korrektheit verbessern. Im Gespräch wird dabei besonders betont, dass viele frontier Modelle zwar im ersten Versuch stimmen, aber bei leicht veränderten Nachfragen deutlich abweichen können. Für Unternehmen wird das Thema damit vom UX-Problem zur Architekturfrage für zuverlässige KI-Workflows.
Wenn Chatbots plausibel klingende Antworten liefern, aber bei genauerem Hinsehen oder bei einer leicht veränderten Nachfrage in eine andere Richtung kippen, ist das in der Praxis mehr als nur ein peinlicher Moment. Genau diese Unzuverlässigkeit beschreibt Scale Cognition als Kernproblem moderner Large-Language-Model-Ansätze: Nicht das „Funktionieren“ im Einzelfall, sondern die fehlende Wiederholbarkeit korrekter Resultate. Im Podcast-Gespräch wird das mit dem Begriff „spiky intelligence“ und einer Art Nichtdeterminismus illustriert: Ein Modell kann beim ersten Versuch richtig liegen, aber beim zweiten Prompt, der sich nur minimal unterscheidet, eine völlig andere Antwort erzeugen.
Der Interviewpartner ordnet damit auch eine verbreitete Technik ein, die viele Teams bereits heute nutzen: Modelle zur Selbstkontrolle zu veranlassen oder mit einem „Thinking Mode“ nachträglich eine bessere Entscheidung zu erzwingen. Solche Konfigurationen können Halluzinationen zwar reduzieren, aber sie sind nach dieser Sichtweise eher ein End-Run um die Ursache. Denn die zugrunde liegende statistische Textgenerierung bleibt weiterhin anfällig, wenn die interne Entscheidungslogik zwischen ähnlich klingenden Eingaben nicht stabil genug ist. Damit verschiebt sich die Debatte von „Wie promptet man besser?“ hin zu „Wie trainiert und gestaltet man ein System, damit es über Iterationen hinweg belastbar bleibt?“
Technisch setzt Scale Cognition laut dem Gespräch auf einen „ground up approach“. Das bedeutet: Es geht nicht primär um das nachträgliche Einbauen eines Checkers, sondern um Veränderungen entlang der gesamten Pipeline. Genannt werden unter anderem eine Neuausrichtung beim Training, Anpassungen an internen Algorithmen und die Arbeit an der Modell-Architektur. Besonders auffällig ist der Hinweis auf eine andere Loss-Funktion sowie darauf, welche Daten in das Training einfließen. Genau diese Stellschrauben sind aus MLOps-Sicht entscheidend, weil sie die Form des „Loss Landscape“ beeinflussen und damit, wie stabil ein Modell bei vergleichbaren Eingaben entscheidet. Ein unmittelbarer Vergleich zu typischen Chatbot-Frameworks zeigt auch den Unterschied: Während viele Anbieter auf Prompting, RAG oder System-Wrapper setzen, will Scale Cognition die Robustheit schon im Lernprozess verankern.
Auch die Zielgruppe wird dabei klar abgegrenzt. Der Ansatz zielt ausdrücklich auf Enterprise-Anwendungen statt auf eine Konsumenten-App, die „alles“ beantworten muss. Damit ist nicht nur ein Go-to-Market-Entscheid getroffen, sondern auch ein technischer Fokus: In Unternehmen sind Aufgaben oft stärker domänenspezifisch, etwa Richtlinienauslegung, Wissenssuche in dokumentierten Datenbeständen oder assistierte Auskünfte für Prozesse. Der Interviewpartner beschreibt, dass diese Enterprise-Perspektive „technologische Angles“ eröffnet, um das Problem im Unternehmenskontext besser anzugehen. Das lässt sich historisch einordnen: Seit der Welle der Chatbots in den letzten Jahren kämpfen viele Teams damit, dass generative Modelle ohne Verankerung in verlässlichen Quellen fehlerhafte Aussagen produzieren. RAG- und Retrieval-Strategien lösen einen Teil davon, aber die Frage bleibt, wie konsistent das Modell selbst bei formalen Unsicherheiten antwortet.
Für den Markt heißt das: Die Konkurrenz kann nicht nur über Modellgrößen gewinnen, sondern über Systemverhalten. Als direkter Vergleich werden im Gespräch „OpenAI“ und „Anthropic“ als Anbieter von frontier Modellen genannt, deren Systeme häufig über zusätzliche Modi, Tools oder Prompt-Policies stabilisiert werden. Experten aus der Branche berichten jedoch gleichermaßen, dass selbst sehr leistungsfähige Modelle in Grenzfällen schwanken können, weil die Textgenerierung auf Wahrscheinlichkeit beruht und die Entscheidungsketten nicht zwingend deterministisch sind. Genau an dieser Stelle versucht Scale Cognition anzusetzen: Wer Wiederholbarkeit verspricht, muss mehr liefern als „sehr oft richtig“. Unternehmen werden dafür zunehmend Kennzahlen verlangen, etwa eine messbare Reduktion von Antwortvarianz bei Paraphrasen, plus ein klarer Umgang mit Unsicherheit in nachgelagerten Workflows.
Aus Compliance- und Datenschutzsicht gewinnt die Architektur-Debatte zusätzlich an Gewicht. Enterprise-Kunden fragen nicht nur, ob eine Antwort stimmt, sondern wie sie zustande kommt, welche Daten genutzt werden und wie sich das Verhalten auditieren lässt. Wenn ein Modell Halluzinationen nicht nur „weniger wahrscheinlich“, sondern systematisch „stabiler“ machen soll, steigt auch die Relevanz für kontrollierte Datensätze, nachvollziehbares Training und ein sauberes Monitoring nach dem Deployment. Gerade in regulierten Branchen wird das Thema schnell zu einer Frage der Governance: Welche Inhalte wurden im Training berücksichtigt? Welche Guardrails greifen wann? Und wie werden falsche Antworten erkannt, bevor sie in Geschäftsprozesse einfließen? Ein verlässlicheres Modellverhalten kann dabei helfen, Betriebsrisiken zu senken, ersetzt aber keine Sicherheits- und Datenstrategie.
Der Blick nach vorn lautet daher: Wenn Scale Cognition seinen Ansatz tatsächlich so operationalisiert, dass Korrektheit und Konsistenz messbar steigen, dann verschiebt sich das Wettbewerbsspiel. Es könnte sich stärker Richtung KI-Infrastruktur und KI-Operations entwickeln: Stabilität wird zur Produktfunktion, nicht nur zur Marketingaussage. In der Praxis bedeutet das für Entwicklerteams, dass sie künftig mehr über Modelltrainingsziele, Evaluationsprotokolle und Drift-Messungen sprechen müssen. Eine naheliegende nächste Stufe wäre, Benchmarks zu etablieren, die Antwort-Varianz bei semantisch ähnlichen Nachfragen gezielt messen. Branchenexperten erwarten in diesem Zusammenhang, dass sich der Trend weg von reinem Prompt-Tuning hin zu „Train-to-Reliability“ beschleunigt – also Designentscheidungen, die Robustheit schon vor dem Inferenzzeitpunkt erzwingen.
Für die Roadmap lässt sich plausibel ableiten, dass solche Unternehmen als Nächstes die Enterprise-Integrationen vertiefen: Beispielsweise durch wiederholbare Testläufe, domänenspezifische Datenpipelines und engere Kopplung an bestehende Wissenssysteme. Auch die Abgrenzung zu Konsumenten-Chatbots könnte sich fortsetzen, indem Produktlinien stärker auf definierte Use Cases ausgerichtet werden. Damit würden Projekte mit hohen Anforderungen an Sicherheit, Skalierbarkeit und nachvollziehbare Ergebnisse profitieren. Gleichzeitig bleiben Hürden: Selbst „weniger spiky“ Modelle müssen in der Produktion mit unbekannten Eingaben rechnen, und regulatorische Vorgaben verlangen weiterhin Dokumentation. Wenn das Startup jedoch die Lücke zwischen „erster richtiger Antwort“ und „verlässlich richtiger Antwort über viele Interaktionen“ wirklich schließt, könnte das für Unternehmens-Deployments ein entscheidender Schritt sein.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Startup setzt auf neue KI-Architektur gegen Chatbot-Halluzinationen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Startup setzt auf neue KI-Architektur gegen Chatbot-Halluzinationen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Startup setzt auf neue KI-Architektur gegen Chatbot-Halluzinationen« bei Google Deutschland suchen, bei Bing oder Google News!