网络犯罪分子加紧使用人工智能工具制造名人的深度假象，利用他们的肖像骗取粉丝的钱财和加密货币–一份报告称，去年此类内容增长了 87%。
本周一，YouTube 巨头 “野兽先生 “在 Twitter 上通知他的 2400 多万粉丝，他是此类骗局的受害者，并质疑科技公司是否有能力阻止他们。
“野兽先生写道：”很多人都收到了我的深度伪造诈骗广告。”社交媒体平台准备好应对人工智能深度伪造的兴起了吗？
很多人都收到了我这个深度伪造的诈骗广告……社交媒体平台准备好应对人工智能深度伪造的兴起了吗？这是一个严重的问题pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 2023年10月3日
。
“它们不是，民主也不是，”播客主持人、科学传播者和扑克冠军丽芙-波瑞（Liv Boeree）回答道。
Deepfake 是用人工智能生成的视频或音频内容，它描述的是虚假事件，但其方式很容易与合法和真实的内容相混淆。
世界各国领导人、政策制定者和执法部门都对人工智能生成的深度伪造内容表示担忧，并对 Boeree 的观点表示赞同，同时也敲响了警钟。
野兽先生的真名是詹姆斯-唐纳森（James Donaldson），他只是最近一位未经许可在网络诈骗或活动中使用自己肖像的名人。周日，传奇演员汤姆-汉克斯（Tom Hanks）在 Instagram 上警告他的粉丝，一个牙科计划的广告活动使用了人工智能生成的这位奥斯卡获奖艺人的形象。与此同时，已故罗宾-威廉姆斯（Robin Williams）的女儿也在 Instagram 上发帖，谴责在商业内容中使用其父亲声音的广告活动。
一些电视新闻人物也出现在病毒式的 deepfake 内容中，包括哥伦比亚广播公司的盖尔-金（Gayle King）、福克斯新闻的塔克-卡尔森（Tucker Carlson）和 HBO 的比尔-马赫（Bill Maher）。
据《每日邮报》周日报道，泰勒-斯威夫特（Taylor Swift）、娜塔莉-波特曼（Natalie Portman）和艾玛-沃森（Emma Watson）等女演员的形象也越来越多地被deepfake色情内容所利用。该报道援引安全公司 ActiveFence 的消息称，名人深层伪造色情内容的数量比去年增长了 87%，而个人被利用的数量增长了 400%。
野兽先生尚未回应 TCN 的置评请求。
AI是SAG-AFTRA和电影电视制片人联盟（AMPTP）之间正在进行的谈判的关键问题之一。一些演员将人工智能深度伪造的问题诉诸法庭，并取得了胜利。
上个月，印度著名演员阿尼尔-卡普尔（Anil Kapoor）在德里高等法院赢得了对未经授权使用其姓名、形象和声音的判决。虽然汤姆-克鲁斯（Tom Cruise）没有公开谈论过此事，但去年他的人工智能深度仿冒图像被上传到社交媒体后引起了热议。
深度汤姆-克鲁斯 “视频背后的团队后来成立了人工智能开发公司 Metaphysic AI。
总部位于伦敦的 Metaphysic 公司由克里斯-乌梅、凯文-乌梅、迈尔斯-费舍尔、汤姆-格雷厄姆和马丁-亚当斯于 2021 年创立，去年 9 月在 “美国达人秀 “上亮相，当时该公司的技术展示了人工智能生成的猫王，并进行了仅有一晚的表演。
Metaphysic 公司表示，除了汤姆-汉克斯之外，其他艺人，包括安妮-海瑟薇和奥克塔维亚-斯宾塞，也都使用了该公司的技术来创建和存储必要的特征，以便为他们的肖像创建合法的数字化身。
汉克斯、斯宾塞和海瑟薇的代表拒绝或没有回复 TCN 的置评请求。
演员并不是唯一受到人工智能青睐的表演者：今年 8 月，歌手赛琳娜-戈麦斯（Selena Gomez）在 Instagram 上发布了一段人工智能深度伪造音频，内容是该表演者演唱 The Weeknd 的《Starboy》混音版的假唱。
今年早些时候，The Weeknd 与德雷克（Drake）合作的歌曲《Heart on My Sleeve》在网络上疯传，唱片学院决定该歌曲没有资格获得格莱美奖。
