Киберпреступники стали активнее использовать инструменты искусственного интеллекта для создания глубоких подделок знаменитостей, используя их сходство с собой, чтобы обманом выманить у поклонников деньги и криптовалюту — по одним данным, за последний год объем такого контента вырос на 87%.
В понедельник гигант YouTube Мистер Зверь сообщил своим более чем 24 миллионам подписчиков в Twitter, что стал жертвой одной из таких схем, и задался вопросом, способны ли технологические компании остановить их.
«Многие люди получают от меня рекламу мошенничества deepfake», — написал г-н Бист. «Готовы ли платформы социальных сетей справиться с ростом числа глубоких подделок, создаваемых искусственным интеллектом? «
Многие люди получают это мошенническое объявление с моим изображением… Готовы ли платформы социальных сетей к росту числа подделок с использованием искусственного интеллекта? Это серьезная проблема pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) October 3, 2023
«Их нет, как и демократии», — ответила ведущая подкаста, научный коммуникатор и чемпион по покеру Лив Боэри.
Глубокий фейк — это видео- или аудиоконтент, созданный с помощью генеративного искусственного интеллекта, который изображает ложные события, но сделан таким образом, что его легко спутать с законным и подлинным контентом.
Обеспокоенность по поводу генерируемых искусственным интеллектом фальшивок заставила мировых лидеров, политиков и правоохранительные органы поддержать мнение Боэри и забить тревогу.
Г-н Бист, настоящее имя которого Джеймс Дональдсон, — лишь одна из последних знаменитостей, чье изображение было использовано в мошенничестве или кампании в Интернете без его разрешения. В воскресенье легендарный актер Том Хэнкс написал в Instagram, чтобы предупредить своих поклонников о кампании по рекламе стоматологического плана, в которой использовалась сгенерированная искусственным интеллектом версия лауреата премии «Оскар». В то же время сообщение дочери покойного Робина Уильямса в Instagram также осуждает кампании, использующие в рекламных материалах реплики голоса ее отца.
В вирусном фейковом контенте также засветились несколько телеведущих, в том числе Гейл Кинг (CBS), Такер Карлсон (Fox News) и Билл Махер (HBO).
По данным воскресного отчета Daily Mail, все чаще в фальшивой порнографии используются образы таких актрис, как Тейлор Свифт, Натали Портман и Эмма Уотсон. Ссылаясь на компанию ActiveFence, специализирующуюся на обеспечении безопасности, издание утверждает, что количество поддельного порно со знаменитостями выросло на 87% по сравнению с прошлым годом, а частные лица стали использоваться на 400% чаще.
Г-н Бист пока не ответил на просьбу TCN о комментарии.
AI — один из ключевых вопросов в переговорах между SAG-AFTRA и Альянсом продюсеров кино и телевидения (AMPTP). А некоторые актеры обращаются в суд с проблемой глубоких подделок ИИ и выигрывают его.
В прошлом месяце популярный индийский актер Анил Капур выиграл в Высоком суде Дели суд против несанкционированного использования его имени, изображения и голоса. И хотя Том Круз публично не высказывался по этому поводу, его глубокая подделка, выполненная искусственным интеллектом, в прошлом году получила широкую огласку после загрузки в социальные сети.
Команда, создавшая видеоролики «Deep Tom Cruise», впоследствии основала компанию Metaphysic AI, занимающуюся разработкой ИИ.
Основанная в 2021 году Крисом Уме, Кевином Уме, Майлзом Фишером, Томом Грэмом и Мартином Адамсом, лондонская компания Metaphysic в сентябре прошлого года была показана на шоу «America’s Got Talent», когда ее технология продемонстрировала Элвиса Пресли, сгенерированного искусственным интеллектом, в рамках единственного ночного выступления.
Компания Metaphysic утверждает, что наряду с Томом Хэнксом другие артисты, в том числе Энн Хэтэуэй и Октавия Спенсер, использовали ее технологию для создания и хранения характеристик, необходимых для создания легального цифрового аватара по их образу и подобию.
Представители Хэнкса, Спенсер и Хэтэуэй отказались или не ответили на просьбу TCN о комментарии.
Актеры — не единственные исполнители, подвергающиеся воздействию ИИ: в августе певица Селена Гомес стала объектом глубокого ИИ-фейка, размещенного в Instagram, в котором была представлена фальшивая версия исполнительницы, поющей ремикс-версию песни The Weeknd «Starboy».
The Weeknd также стал объектом сгенерированного ИИ deepfake-сотрудничества с поддельной копией Drake для песни «Heart on My Sleeve», которую Академия звукозаписи решила не претендовать на премию «Грэмми» после того, как она стала вирусной в начале этого года.
