Gefahren von KI-generierten Deepfakes im Gesundheitssektor

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Die rasante Entwicklung der Künstlichen Intelligenz hat eine neue Welle von Deepfake-Videos hervorgebracht, die auf Plattformen wie TikTok kursieren und unbewiesene Gesundheitsprodukte bewerben. Diese Videos, oft mit gefälschten Prominentenempfehlungen, stellen eine ernsthafte Bedrohung für die Verbraucher dar.

Die Verbreitung von KI-generierten Inhalten hat in den letzten Jahren erheblich zugenommen, insbesondere im Bereich der Gesundheits- und Wellnessprodukte. Auf Plattformen wie TikTok tauchen vermehrt Videos auf, die angeblich von Prominenten unterstützt werden und dubiose Nahrungsergänzungsmittel bewerben. Diese Videos nutzen häufig Deepfake-Technologie, um die Glaubwürdigkeit zu erhöhen und die Verbraucher zu täuschen.

Ein besonders auffälliges Beispiel ist ein Video, in dem ein muskulöser Mann mit einer übergroßen Karotte ein Mittel zur Vergrößerung männlicher Genitalien anpreist. Die Karotte dient dabei als Euphemismus, um die Moderationsrichtlinien der Plattform zu umgehen. Solche Inhalte sind nicht nur irreführend, sondern können auch gesundheitsschädlich sein, da die beworbenen Produkte oft nicht wissenschaftlich geprüft sind.

Die Firma Resemble AI, die sich auf die Erkennung von Deepfakes spezialisiert hat, hat bestätigt, dass viele dieser Videos mit Hilfe von KI erstellt wurden. Laut Zohaib Ahmed, dem Geschäftsführer von Resemble AI, wird KI zunehmend dazu genutzt, falsche Informationen zu verbreiten und Verbraucher zu manipulieren. Diese Entwicklung stellt eine ernsthafte Herausforderung für die Plattformen dar, die versuchen, solche Inhalte zu moderieren.

Die Verwendung von KI zur Erstellung von Deepfakes ist nicht nur auf TikTok beschränkt. Auch auf anderen Plattformen wie YouTube tauchen immer wieder Videos auf, die gefälschte Prominentenempfehlungen enthalten. Diese Videos sind oft schwer zu erkennen und können schnell viral gehen, was die Verbreitung von Fehlinformationen weiter beschleunigt.

Ein weiteres Problem ist die Geschwindigkeit, mit der neue Deepfake-Videos erstellt werden können. Selbst wenn Plattformen es schaffen, ein Video zu entfernen, tauchen oft schnell neue, nahezu identische Videos auf. Dies macht die Moderation zu einem Spiel von “Whack-a-Mole”, bei dem es schwierig ist, dauerhaft gegen die Flut von Fehlinformationen anzukämpfen.

Experten fordern daher die Entwicklung neuer Technologien und Strategien, um die Erkennung und Entfernung von Deepfakes zu verbessern. Dies könnte durch den Einsatz fortschrittlicherer KI-Tools geschehen, die in der Lage sind, gefälschte Inhalte schneller und zuverlässiger zu identifizieren.

Insgesamt zeigt die aktuelle Situation, wie wichtig es ist, dass Verbraucher kritisch mit Informationen umgehen, die sie online finden. Die Verbreitung von Deepfakes im Gesundheitssektor ist ein ernstes Problem, das nicht nur die Integrität der Plattformen bedroht, sondern auch die Gesundheit der Verbraucher gefährden kann.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!