Cyberkriminelle setzen verstärkt KI-Tools ein, um Deepfakes von Prominenten zu erstellen und deren Konterfeis zu missbrauchen, um ihre Fans um ihr Geld und ihre Kryptowährung zu betrügen. Einem Bericht zufolge sind solche Inhalte im letzten Jahr um 87 Prozent gestiegen.
Am Montag teilte der YouTube-Gigant Mr. Beast seinen über 24 Millionen Twitter-Followern mit, dass er Opfer einer solchen Masche geworden sei – und stellte in Frage, ob Tech-Unternehmen in der Lage seien, sie zu stoppen.
„Viele Leute bekommen diese Deepfake-Betrugsanzeige von mir“, schrieb Mr. Beast. „Sind Social-Media-Plattformen bereit, mit der Zunahme von KI-Depfakes umzugehen?“
Viele Leute bekommen diese gefälschte Anzeige von mir… sind Social-Media-Plattformen bereit, mit der Zunahme von KI-Fälschungen umzugehen? Das ist ein ernstes Problem pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) Oktober 3, 2023
„Sie sind es nicht, und die Demokratie ist es auch nicht“, antwortete die Podcast-Moderatorin, Wissenschaftskommunikatorin und Poker-Champion Liv Boeree.
Ein Deepfake ist ein mit generativer künstlicher Intelligenz erstellter Video- oder Audioinhalt, der falsche Ereignisse darstellt, aber so gemacht ist, dass er leicht mit legitimen und echten Inhalten verwechselt werden kann.
Die Besorgnis über KI-generierte Deepfakes hat dazu geführt, dass führende Politiker, Politikerinnen und Strafverfolgungsbehörden sich Boeres Meinung anschließen und Alarm schlagen.
Mr. Beast, der mit bürgerlichem Namen James Donaldson heißt, ist nur der jüngste Prominente, dessen Konterfei in einem Online-Betrug oder einer Online-Kampagne ohne seine Zustimmung verwendet wurde. Am Sonntag warnte der legendäre Schauspieler Tom Hanks auf Instagram seine Fans vor einer Werbekampagne für eine Zahnbehandlung, bei der eine KI-generierte Version des Oscar-Preisträgers verwendet wurde. Auch die Tochter des verstorbenen Robin Williams prangerte in einem Instagram-Post Kampagnen an, die eine Nachbildung der Stimme ihres Vaters in Werbeinhalten verwenden.
Mehrere Persönlichkeiten aus dem Fernsehen sind ebenfalls in viralen Deepfake-Inhalten aufgetaucht, darunter Gayle King von CBS, Tucker Carlson von Fox News und Bill Maher von HBO.
Laut einem Bericht der Daily Mail vom Sonntag werden auch lüsterne Interessen bedient: Die Gesichter von Schauspielerinnen wie Taylor Swift, Natalie Portman und Emma Watson werden zunehmend für Deepfake-Pornografie genutzt. Unter Berufung auf das Sicherheitsunternehmen ActiveFence heißt es in dem Bericht, dass die Zahl der Deepfake-Pornos von Prominenten im Vergleich zum Vorjahr um 87 Prozent gestiegen ist – und dass Privatpersonen um 400 Prozent mehr ausgenutzt werden.
Mr. Beast hat noch nicht auf die Anfrage von TCN nach einem Kommentar geantwortet.
AI ist eines der Hauptthemen in den laufenden Verhandlungen zwischen SAG-AFTRA und der Alliance of Motion Picture and Television Producers (AMPTP). Und einige Schauspieler gehen mit dem Problem der KI-Deepfakes vor Gericht und gewinnen.
Letzten Monat hat der beliebte indische Schauspieler Anil Kapoor vor dem Obersten Gericht in Delhi ein Urteil gegen die unerlaubte Verwendung seines Namens, seines Bildes und seiner Stimme erstritten. Und Tom Cruise hat sich zwar nicht öffentlich dazu geäußert, aber ein KI-Deepfake von ihm ging letztes Jahr viral, nachdem es in den sozialen Medien hochgeladen worden war.
Das Team hinter den „Deep Tom Cruise“-Videos gründete daraufhin das KI-Entwicklungsunternehmen Metaphysic AI.
Das 2021 von Chris Ume, Kevin Ume, Miles Fisher, Tom Graham und Martin Adams gegründete Unternehmen Metaphysic mit Sitz in London wurde im September letzten Jahres bei „America’s Got Talent“ vorgestellt, als seine Technologie einen KI-generierten Elvis Presley für einen einmaligen Auftritt präsentierte.
Metaphysic sagt, dass neben Tom Hanks auch andere Entertainer – darunter Anne Hathaway und Octavia Spencer – seine Technologie genutzt haben, um die Merkmale zu erstellen und zu speichern, die zur Erstellung eines legalen digitalen Avatars ihres Konterfeis erforderlich sind.
Vertreter von Hanks, Spencer und Hathaway haben die Anfrage von TCN nach einer Stellungnahme abgelehnt oder nicht beantwortet.
Schauspieler sind nicht die einzigen Künstler, die mit KI behandelt werden: Im August war die Sängerin Selena Gomez Gegenstand eines Audio-KI-Depfakes, der auf Instagram gepostet wurde und eine gefälschte Version der Sängerin enthielt, die eine Remix-Version von The Weeknds „Starboy“ sang.
The Weeknd war auch Gegenstand einer KI-generierten Deepfake-Kollaboration mit einer gefälschten Kopie von Drake für den Song „Heart on My Sleeve“, der laut der Recording Academy nicht für einen Grammy in Frage kam, nachdem er Anfang des Jahres viral gegangen war.
