Киберпрестъпниците се активизираха, използвайки инструменти за изкуствен интелект, за да създават дълбоки фалшификати на известни личности, използвайки техните образи, за да измамят феновете им с пари и криптовалута – според един доклад това съдържание е нараснало с 87% през последната година.
В понеделник гигантът в YouTube г-н Звяр уведоми своите над 24 милиона последователи в Twitter, че е станал жертва на една такава схема – и постави въпроса дали технологичните компании са в състояние да ги спрат.
„Много хора получават тази deepfake измама от мен“, написа г-н Звяр. „Готови ли са платформите на социалните медии да се справят с възхода на дълбоките фалшификати с изкуствен интелект?“
Много хора получават тази дълбоко фалшива измамна реклама на мен… готови ли са платформите на социалните медии да се справят с възхода на дълбоките фалшификати с изкуствен интелект? Това е сериозен проблем pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) October 3, 2023
„Те не са, както и демокрацията“, отговори водещата на подкаст, комуникатор на науката и шампион по покер Лив Бури.
Дълбокият фалшификат (deepfake) е видео или аудио съдържание, създадено с помощта на генеративен изкуствен интелект, което изобразява фалшиви събития, но е направено по начин, който позволява лесното му объркване с легитимно и истинско съдържание.
Загрижеността около генерираните от изкуствен интелект дълбоки фалшификати кара световни лидери, политици и правоприлагащи органи да подкрепят мнението на Бури и да бият тревога.
Г-н Бийст, чието истинско име е Джеймс Доналдсън, е само последната знаменитост, чийто образ е използван в онлайн измама или кампания без нейното разрешение. В неделя легендарният актьор Том Ханкс се включи в Instagram, за да предупреди феновете си за кампания, рекламираща стоматологичен план, в която е използвана генерирана от изкуствен интелект версия на носителя на Оскар. Междувременно публикация в Инстаграм от дъщерята на покойния Робин Уилямс също осъди кампаниите, използващи копие на гласа на баща ѝ в рекламно съдържание.
Няколко телевизионни новинарски личности също се появиха във вирусно deepfake съдържание, включително Гейл Кинг от CBS, Тъкър Карлсън от Fox News и Бил Махер от HBO.
Според неделния доклад на Daily Mail, в дълбоко фалшива порнография все по-често се използват образите на жени-актьори като Тейлър Суифт, Натали Портман и Ема Уотсън. Позовавайки се на фирмата за сигурност ActiveFence, докладът твърди, че количеството на дълбоко фалшивата порнография на известни личности е нараснало с 87% през миналата година, а частните лица са експлоатирани с 400% повече.
Г-н Звяр все още не е отговорил на молбата на TCN за коментар.
AI е един от ключовите въпроси в текущите преговори между SAG-AFTRA и Алианса на филмовите и телевизионните продуценти (AMPTP). А някои актьори отнасят въпроса с дълбоките фалшификати на изкуствения интелект към съда и печелят.
Миналия месец популярният индийски актьор Анил Капур спечели решение на Върховния съд в Делхи срещу неразрешеното използване на името, образа и гласа му. И макар Том Круз да не е говорил публично по този въпрос, негов AI deepfake се разпространи миналата година, след като беше качен в социалните мрежи.
Екипът, който стои зад видеоклиповете „Дълбокият Том Круз“, основава фирмата за разработка на изкуствен интелект Metaphysic AI.
Стартирана през 2021 г. от Крис Уме, Кевин Уме, Майлс Фишър, Том Греъм и Мартин Адамс, базираната в Лондон Metaphysic беше представена в „Америка търси талант“ през септември миналата година, когато нейната технология показа генериран от ИИ Елвис Пресли за изпълнение само за една вечер.
Metaphysic твърди, че наред с Том Ханкс и други артисти – включително Ан Хатауей и Октавия Спенсър – са използвали нейната технология, за да създадат и съхранят характеристиките, които са необходими за създаването на законен цифров аватар на техните образи.
Представители на Ханкс, Спенсър и Хатауей са отказали или не са отговорили на молбата на TCN за коментар.
Актьорите не са единствените изпълнители, които се подлагат на третиране с изкуствен интелект: през август певицата Селена Гомес беше обект на аудиофалшификат с изкуствен интелект, публикуван в Instagram, който включваше фалшива версия на изпълнителката, пееща ремикс версия на песента „Starboy“ на The Weeknd.
The Weeknd също така беше обект на генериран от ИИ deepfake в сътрудничество с фалшива реплика на Drake за песента „Heart on My Sleeve“, за която Академията за звукозапис реши, че не отговаря на условията за награда „Грами“, след като стана вирусна по-рано тази година.
