Kyberzločinci začali využívat nástroje umělé inteligence k vytváření deepfakes celebrit, které se zmocňují jejich podobizen, aby z jejich fanoušků vylákali peníze a kryptoměny – podle jedné ze zpráv se za poslední rok zvýšil nárůst takového obsahu o 87 procent.
V pondělí oznámil gigant YouTube pan Beast svým více než 24 milionům sledujících na Twitteru, že se stal obětí jednoho takového schématu – a položil otázku, zda jsou technologické společnosti schopny je zastavit.
„Spousta lidí dostává tuhle deepfake podvodnou reklamu na mě,“ napsal pan Beast. „Jsou platformy sociálních médií připraveny zvládnout nárůst deepfakes s umělou inteligencí?“
Spousta lidí dostává tuto deepfake podvodnou reklamu na mě… Jsou platformy sociálních médií připraveny zvládnout nárůst deepfakes s umělou inteligencí? Je to vážný problém pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 3. října 2023
„Nejsou, stejně jako demokracie,“ odpověděla moderátorka podcastů, vědecká komunikátorka a pokerová šampionka Liv Boeree.
Deepfake je video nebo audio obsah vytvořený pomocí generativní umělé inteligence, který zobrazuje falešné události, ale je proveden tak, aby byl snadno zaměnitelný s legitimním a pravým obsahem.
Obavy z deepfakes generovaných umělou inteligencí vyvolávají světoví lídři, tvůrci politik a orgány činné v trestním řízení, kteří se připojují k názoru Boereeové a bijí na poplach.
Pan Beast, jehož skutečné jméno je James Donaldson, je pouze poslední celebritou, jejíž podobizna byla bez jejího svolení použita v online podvodu nebo kampani. V neděli se na Instagramu objevil legendární herec Tom Hanks, aby své fanoušky varoval před kampaní propagující zubní plán, která využívala verzi tohoto oscarového baviče vytvořenou umělou inteligencí. Mezitím dcera zesnulého Robina Williamse ve svém příspěvku na Instagramu rovněž odsoudila kampaně, které v komerčním obsahu používají repliku hlasu jejího otce.
Ve virálním deepfake obsahu se objevilo také několik osobností televizního zpravodajství, včetně Gayle Kingové z CBS, Tuckera Carlsona z Fox News a Billa Mahera z HBO.
Podle nedělní zprávy deníku Daily Mail se v deepfake pornografii stále častěji objevují i chlípnější zájmy, a tak jsou v ní využívány vizáže hereček, jako jsou Taylor Swift, Natalie Portman a Emma Watson. Zpráva s odvoláním na bezpečnostní firmu ActiveFence tvrdí, že množství deepfake porna s celebritami vzrostlo oproti loňskému roku o 87 procent – a soukromé osoby jsou zneužívány o 400 procent více.
Pan Beast zatím na žádost TCN o komentář nereagoval.
AI je jednou z klíčových otázek probíhajících jednání mezi SAG-AFTRA a Aliancí filmových a televizních producentů (AMPTP). A někteří herci se s problémem deepfakes AI obracejí na soud a vyhrávají.
Minulý měsíc vyhrál populární indický herec Anil Kapoor u Nejvyššího soudu v Dillí rozsudek proti neoprávněnému používání svého jména, podoby a hlasu. A zatímco Tom Cruise se k tomu veřejně nevyjádřil, jeho AI deepfake se loni stal virálním poté, co byl nahrán na sociální sítě.
Tým, který stojí za videi „Deep Tom Cruise“, pak založil firmu Metaphysic AI zabývající se vývojem umělé inteligence.
Společnost Metaphysic, kterou v roce 2021 založili Chris Ume, Kevin Ume, Miles Fisher, Tom Graham a Martin Adams, se sídlem v Londýně, se v září loňského roku objevila v pořadu „Amerika má talent“, když její technologie předvedla umělou inteligencí vygenerovaného Elvise Presleyho při jediném nočním vystoupení.
Společnost Metaphysic uvádí, že spolu s Tomem Hanksem využili její technologii k vytvoření a uložení charakteristik, které jsou potřebné k vytvoření legálního digitálního avatara jejich podoby, i další baviči – včetně Anne Hathawayové a Octavie Spencerové.
Zástupci Hankse, Spencerové a Hathawayové odmítli žádost společnosti TCN o komentář nebo na ni neodpověděli.
Herci nejsou jedinými umělci, kteří se dočkali léčby umělou inteligencí: v srpnu byla zpěvačka Selena Gomez předmětem zvukového deepfake umělé inteligence zveřejněného na Instagramu, který obsahoval falešnou verzi interpretky zpívající remixovou verzi písně „Starboy“ od The Weeknd.
The Weeknd byl také předmětem deepfake spolupráce generované umělou inteligencí s falešnou replikou Drakea pro píseň „Heart on My Sleeve“, o které nahrávací akademie rozhodla, že nemá nárok na cenu Grammy poté, co se začátkem tohoto roku stala virální.
