Cybercriminelen maken steeds vaker gebruik van AI-tools om deepfakes van beroemdheden te maken, waarbij ze hun gelijkenis opeisen om hun fans geld en cryptocurrency afhandig te maken – volgens één rapport is dergelijke content het afgelopen jaar met 87 procent gegroeid.
Maandag meldde YouTube-gigant Mr. Beast aan zijn meer dan 24 miljoen volgers op Twitter dat hij het slachtoffer was geworden van zo’n complot en vroeg zich af of techbedrijven in staat waren om ze te stoppen.
“Veel mensen krijgen deze deepfake scam-advertentie van mij,” schreef Mr. “Zijn sociale mediaplatforms klaar voor de opkomst van AI deepfakes?”
Veel mensen krijgen deze deepfake scam advertentie van mij… zijn social media platforms klaar voor de opkomst van AI deepfakes? Dit is een serieus probleem pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) Oktober 3, 2023
Dat zijn ze niet, en democratie ook niet,” antwoordde podcasthost, wetenschapscommunicator en pokerkampioen Liv Boeree.
Een deepfake is video- of audiocontent die is gemaakt met generatieve kunstmatige intelligentie en die valse gebeurtenissen weergeeft, maar op zo’n manier dat het gemakkelijk te verwarren is met legitieme en echte content.
De bezorgdheid over door AI gegenereerde deepfakes heeft ertoe geleid dat wereldleiders, beleidsmakers en wetshandhavers het standpunt van Boeree delen en alarm slaan.
Mr. Beast, wiens echte naam James Donaldson is, is slechts de laatste beroemdheid waarvan de gelijkenis wordt gebruikt in een online zwendel of campagne zonder hun toestemming. Op zondag ging de legendarische acteur Tom Hanks naar Instagram om zijn fans te waarschuwen voor een campagne die reclame maakte voor een tandheelkundig plan waarbij een AI-gegenereerde versie van de Academy Award-winnende entertainer werd gebruikt. Ondertussen hekelde een Instagram-post van de dochter van wijlen Robin Williams ook campagnes die een replica van de stem van haar vader gebruikten in commerciële content.
Verschillende televisienieuwspersoonlijkheden zijn ook opgedoken in virale deepfake content, waaronder Gayle King van CBS, Tucker Carlson van Fox News en Bill Maher van HBO.
Ook meer wellustige interesses worden het hof gemaakt, met de gezichten van vrouwelijke acteurs zoals Taylor Swift, Natalie Portman en Emma Watson die steeds vaker worden gebruikt in deepfake pornografie, volgens een zondag gepubliceerd rapport van de Daily Mail. Het rapport citeert beveiligingsbedrijf ActiveFence en beweert dat de hoeveelheid deepfake pornografie van beroemdheden met 87 procent is toegenomen ten opzichte van vorig jaar en dat particulieren 400 procent meer worden uitgebuit.
Mr. Beast heeft nog niet gereageerd op TCN’s verzoek om commentaar.
AI is een van de hoofdpunten in de lopende onderhandelingen tussen SAG-AFTRA en de Alliance of Motion Picture and Television Producers (AMPTP). En sommige acteurs stappen naar de rechter en winnen.
Vorige maand won de populaire Indiase acteur Anil Kapoor een uitspraak van het Delhi High Court tegen het ongeautoriseerde gebruik van zijn naam, beeltenis en stem. En hoewel Tom Cruise er niet publiekelijk over heeft gesproken, ging een AI deepfake van hem vorig jaar viral nadat deze was geüpload op sociale media.
Het team achter de “Deep Tom Cruise” video’s richtte vervolgens AI-ontwikkelingsbedrijf Metaphysic AI op.
Metaphysic werd in 2021 opgericht door Chris Ume, Kevin Ume, Miles Fisher, Tom Graham en Martin Adams en was in september vorig jaar te zien op “America’s Got Talent”, toen de technologie een AI-gegenereerde Elvis Presley liet zien voor een eenmalig optreden.
Metaphysic zegt dat naast Tom Hanks ook andere entertainers, waaronder Anne Hathaway en Octavia Spencer, haar technologie hebben gebruikt om de kenmerken te creëren en op te slaan die nodig zijn om een legale digitale avatar van hun gelijkenis te maken.
Vertegenwoordigers van Hanks, Spencer en Hathaway hebben TCN’s verzoek om commentaar afgewezen of niet beantwoord.
Acteurs zijn niet de enige artiesten die een AI-behandeling krijgen: in augustus was zangeres Selena Gomez het onderwerp van een AI deepfake op Instagram waarin een nepversie van de artiest een remixversie van The Weeknd’s “Starboy” zong.
The Weeknd was ook het onderwerp van een AI-gegenereerde deepfake-samenwerking met een nepreplica van Drake voor het nummer “Heart on My Sleeve”, waarvan de Recording Academy besloot dat het niet in aanmerking kwam voor een Grammy nadat het eerder dit jaar viraal was gegaan.
