Cyberprzestępcy zintensyfikowali wykorzystywanie narzędzi sztucznej inteligencji do tworzenia głębokich podróbek celebrytów, przejmując ich podobizny, aby oszukać fanów z ich pieniędzy i kryptowaluty – według jednego z raportów liczba takich treści wzrosła o 87 procent w ciągu ostatniego roku.
W poniedziałek gigant YouTube Mr. Beast powiadomił ponad 24 miliony obserwujących na Twitterze, że padł ofiarą jednego z takich schematów – i zakwestionował, czy firmy technologiczne są w stanie je powstrzymać.
„Wiele osób otrzymuje ode mnie tę fałszywą reklamę” – napisał Beast. „Czy platformy mediów społecznościowych są gotowe poradzić sobie z rozwojem deepfake’ów AI?”
Lots of people are getting this deepfake scam ad of me… are social media platforms ready to handle the rise of AI deepfakes? To poważny problem pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) October 3, 2023
„Nie są, podobnie jak demokracja” – odpowiedziała prowadząca podcast, popularyzatorka nauki i mistrzyni pokera Liv Boeree.
Deepfake to treści wideo lub audio stworzone przy użyciu sztucznej inteligencji generatywnej, które przedstawiają fałszywe wydarzenia, ale są wykonane w taki sposób, aby można je było łatwo pomylić z legalnymi i prawdziwymi treściami.
Obawy związane z deepfake’ami generowanymi przez sztuczną inteligencję sprawiają, że światowi przywódcy, decydenci i organy ścigania powtarzają sentyment Boeree i biją na alarm.
Pan Beast, którego prawdziwe nazwisko brzmi James Donaldson, jest tylko najnowszym celebrytą, którego podobizna została wykorzystana w oszustwie internetowym lub kampanii bez jego zgody. W niedzielę legendarny aktor Tom Hanks wziął na Instagram, aby ostrzec swoich fanów przed kampanią reklamującą plan dentystyczny, w której wykorzystano wygenerowaną przez sztuczną inteligencję wersję nagrodzonego Oscarem artysty. Tymczasem post na Instagramie córki zmarłego Robina Williamsa również potępił kampanie wykorzystujące replikę głosu jej ojca w treściach komercyjnych.
Kilka osobistości telewizyjnych również pojawiło się w wirusowych treściach deepfake, w tym Gayle King z CBS, Tucker Carlson z Fox News i Bill Maher z HBO.
Według niedzielnego raportu Daily Mail, w deepfake’owych treściach pornograficznych coraz częściej wykorzystywane są także wizerunki aktorek, takich jak Taylor Swift, Natalie Portman i Emma Watson. Powołując się na firmę ochroniarską ActiveFence, w raporcie stwierdzono, że ilość deepfake porno z udziałem celebrytów wzrosła o 87 procent w porównaniu z ubiegłym rokiem – a osoby prywatne były wykorzystywane o 400 procent więcej.
Pan Beast nie odpowiedział jeszcze na prośbę TCN o komentarz.
AI jest jedną z kluczowych kwestii w toczących się negocjacjach między SAG-AFTRA a Sojuszem Producentów Filmowych i Telewizyjnych (AMPTP). Niektórzy aktorzy wnoszą sprawę z podróbkami AI do sądu i wygrywają.
W zeszłym miesiącu popularny indyjski aktor Anil Kapoor wygrał wyrok w Sądzie Najwyższym w Delhi przeciwko nieautoryzowanemu wykorzystaniu jego nazwiska, wizerunku i głosu. I choć Tom Cruise nie wypowiadał się publicznie na ten temat, jego deepfake ze sztuczną inteligencją stał się wirusowy w zeszłym roku po tym, jak został przesłany do mediów społecznościowych.
Zespół stojący za filmami „Deep Tom Cruise” założył firmę Metaphysic AI zajmującą się rozwojem sztucznej inteligencji.
Założona w 2021 roku przez Chrisa Ume, Kevina Ume, Milesa Fishera, Toma Grahama i Martina Adamsa, londyńska firma Metaphysic została zaprezentowana w programie „America’s Got Talent” we wrześniu ubiegłego roku, kiedy to jej technologia zaprezentowała wygenerowanego przez sztuczną inteligencję Elvisa Presleya podczas występu tylko na jedną noc.
Metaphysic twierdzi, że wraz z Tomem Hanksem, inni artyści – w tym Anne Hathaway i Octavia Spencer – wykorzystali jego technologię do stworzenia i przechowywania cech, które są potrzebne do stworzenia legalnego cyfrowego awatara ich podobizn.
Przedstawiciele Hanksa, Spencer i Hathaway odmówili lub nie odpowiedzieli na prośbę TCN o komentarz.
Aktorzy nie są jedynymi wykonawcami poddawanymi działaniu sztucznej inteligencji: w sierpniu piosenkarka Selena Gomez była przedmiotem deepfake’u audio AI opublikowanego na Instagramie, który zawierał fałszywą wersję wykonawcy śpiewającego remiks „Starboy” The Weeknd.
The Weeknd był również przedmiotem wygenerowanej przez sztuczną inteligencję deepfake’owej współpracy z fałszywą repliką Drake’a przy piosence „Heart on My Sleeve”, o której Akademia Nagraniowa zdecydowała, że nie kwalifikuje się do nagrody Grammy po tym, jak stała się wirusowa na początku tego roku.
