LONDON (IT BOLTWISE) – In der Qualitätssicherung für ChatGPT haben Dienstleister mehrere Auftragnehmer entlassen, weil sie bei der Bewertung selbst KI einsetzten. Laut einem internen Dokument prüfen Tausende Menschen Antworten und kritisieren sie in Projekten zur Modellverbesserung. Die Verträge untersagen allerdings den Einsatz von KI-Tools, ebenso Vorgaben zur Nutzung bestimmter Erkennungstools. Damit rückt eine neue Compliance-Schicht in den Fokus: Wie zuverlässig bleibt die menschliche Bewertung, wenn Bewertende selbst wieder KI verwenden?
Dass Dienstleister in der KI-Verbesserung nicht nur nach inhaltlicher Qualität suchen, sondern auch nach der Arbeitsweise ihrer Prüfer, wird in der aktuellen Berichterstattung besonders deutlich. Mehrere Auftragnehmer, die damit betraut waren, OpenAI-Modelle über menschliche Checks zu verbessern, sollen selbst Künstliche Intelligenz eingesetzt haben – und daraufhin aus ihren Projekten entfernt worden sein. Konkret geht es um die Phase, in der Prüfer Antworten von ChatGPT bewerten, kommentieren und an Schwachstellen zurückmelden. Wenn dabei erneut KI als Hilfsmittel genutzt wird, entsteht ein Interessenkonflikt: Die Bewertung könnte sich unbemerkt an KI-Output orientieren, statt eigenständig zu beurteilen, was wirklich hilfreich, sicher oder sachlich ist.
Im Zentrum steht dabei ein Vertrags- und Regelwerk, das den Einsatz von KI während der Prüf- und Kritikarbeit untersagt. Zusätzlich sollen Prüfer auf typische Muster achten, die auf KI-generierten Text hindeuten. Als solche Merkmale werden etwa repetitive Wortwahl, KI-typische Zeichensetzung mit gehäuften Gedankenstrichen sowie auffällig kurze Bearbeitungszeiten genannt. Das Ziel wirkt auf den ersten Blick simpel: Menschen sollen Antworten erkennen und bewerten, ohne ihre eigene Arbeit durch Automatisierung zu beschleunigen oder zu verfälschen. Doch genau diese Grenze wird offenbar in der Praxis relevant, weil Prüfer ihr eigenes Ergebnis sonst mithilfe von Tools „glätten“ oder mit KI-Feedback konsolidieren könnten.
Diese Regeln treffen außerdem auf ein zweites, praktisches Problem: Auch KI-Detektoren und Text-Assistenz-Tools sollen laut den Vorgaben tabu sein. Genannt werden ausdrücklich Detektoren, die KI-Anteile in Texten identifizieren sollen, sowie KI-gestützte Übersetzungs- und Korrekturfunktionen, die Feedback und Kommentarvorschläge liefern. Der Grund dafür wird indirekt verständlich: Viele Detektions- und Hilfsfunktionen sind nicht nur unzuverlässig, sondern können zudem selbst wieder als Quelle systematischer Verzerrung wirken. Werden Bewertende beim Prüfen durch ein Erkennungstool oder ein automatisches Schreibassistenzsystem geleitet, steigt das Risiko, dass sie in eine „Tool-Logik“ abrutschen – und damit genau das verlieren, was menschliche Reviews eigentlich liefern sollen.
Ein weiteres Detail: Zwei der drei in der Berichterstattung erwähnten Auftragnehmer sollen für das KI-Trainingsunternehmen Mercor gearbeitet haben. Ein Sprecher dieses Unternehmens habe dabei erklärt, dass die Verträge die Nutzung von Large Language Models strikt untersagen und bestätigte Verstöße zur sofortigen Entfernung aus dem Projekt führen können. Außerdem liegt der Darstellung zufolge eine schriftliche Kommunikation einer betroffenen Person vor, die als Kündigung bezeichnet wurde; darin wird demnach die Authentizität der Arbeit infrage gestellt. Unabhängig von der konkreten Formulierung dieser Dokumente zeigt der Fall, wie eng Firmen die Schnittstelle zwischen menschlicher Bewertung und Werkzeugnutzung in der Praxis ziehen – und wie konsequent sie bei Regelbruch reagieren.
Technisch wird damit auch ein grundsätzliches Risiko berührt, das Fachleute seit Längerem im Umfeld wiederverwendeter KI-Outputs diskutieren: Wenn Modelle mit Material weitertrainiert werden, das bereits von Künstlicher Intelligenz erzeugt oder massiv beeinflusst wurde, können Qualitätsprobleme sich verstärken. Die Berichterstattung beschreibt in diesem Zusammenhang das Konzept des Modellkollapses – also die Möglichkeit, dass eine schlechtere Ableitung immer schlechtere Ergebnisse produziert. Menschliche Bewertungen sollen genau dagegen wirken: Sie sollen die Richtung korrigieren, Schwächen identifizieren und die Trainingssignale so filtern oder gewichten, dass das Modell nicht in ungünstige Muster hineinrutscht.
Am heikelsten ist dabei weniger der einzelne Verstoß als das systemische Muster, das entstehen kann, wenn „Hilfs-KI“ in die Bewertungs- und Feedbackschleife gerät. Wenn Prüfer etwa gezielt die schlechteste Antwort auswählen, um das Training zu sabotieren, wäre das zwar ein extremes Beispiel für Fehlverhalten – in der Darstellung wird jedoch betont, dass solche Praktiken vorkommen können. Auch ohne Sabotage kann schon die stille Unterstützung durch KI-Tools dazu führen, dass die Bewertungslogik weniger „menschlich“ ist, als sie nach außen wirkt. Für Unternehmen, die diese Prozesse einkaufen, ist das deshalb nicht nur eine Personal- oder Vertragsfrage, sondern eine Frage nach der Datenqualität, auf der spätere Modellversionen aufbauen.
Für die Marktseite ist der Fall zudem ein Signal, dass KI-Entwicklung in der Praxis zunehmend mit Governance-Maßnahmen verknüpft wird: Nicht nur Trainingsdaten, sondern auch die Arbeitsumgebung der Crowd-ähnlichen Prüfschichten wird geregelt. Sobald Tausende Personen in Projekte eingebunden sind, wird jede zusätzliche Kontrollschicht relevant – von Tool-Verboten über Bearbeitungszeit-Metriken bis hin zur Vermeidung bestimmter Erkennungstechnologien. Gleichzeitig bleibt eine offene Frage aus der Darstellung: Welche konkreten Projekte betroffen waren, wird nicht abschließend genannt. Unternehmen sollten die Lehre daraus dennoch ernst nehmen: Für robuste KI-Trainingspipelines reicht es nicht, Output zu prüfen; sie müssen auch sicherstellen, dass die Input-Qualität der Prüfarbeit nicht durch die falschen Werkzeuge wieder kompromittiert wird.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI-Qualitätssicherung: Auftragnehmer ohne KI-Werkzeuge entlassen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI-Qualitätssicherung: Auftragnehmer ohne KI-Werkzeuge entlassen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI-Qualitätssicherung: Auftragnehmer ohne KI-Werkzeuge entlassen« bei Google Deutschland suchen, bei Bing oder Google News!