根据《滚石》杂志的报道，创造人工智能生成的名人和有影响力的人的深层假象的能力在互联网上引起了相当大的风暴，但是当教皇穿着蓬松的Balenciaga夹克和美国前总统唐纳德-特朗普被逮捕的图像成为头条新闻时，一个新的趋势正在出现：谋杀受害者的深度假象。
纽黑文大学刑事司法助理教授保罗-布莱克利(Paul Bleakley)告诉《滚石》杂志：”它们似乎旨在引发强烈的情绪反应，因为这是获得点击和喜欢的最可靠方式。””看了让人不舒服，但我认为这可能是重点。”
在TikTok上流传的短视频片段包括人工智能生成的视频、音频和儿童的第一人称描述。以这种方式描述的最知名的是罗伊蒂-玛丽-弗洛伊德，在一些视频中被表述为罗迪-玛丽-弗洛伊德，其尸体于2018年在一个烤箱中被发现。弗洛伊德的祖母卡罗琳-琼斯(Carolyn Jones)被指控谋杀弗洛伊德，《滚石》杂志说，人工智能发生器还给出了孩子不同的年龄和种族。
图片： AI生成的皇家玛丽-弗洛伊德的变体
导致这些错误的现象被称为幻觉。人工智能 “幻觉 “指的是人工智能产生意外的、不真实的结果，并且没有现实世界数据支持的情况。人工智能的幻觉可以创造出虚假的内容，新闻，或关于人、事件或事实的信息。
“这些人工智能对真实犯罪受害者的深层伪造，无疑以我们所有人都无法想象的方式将故事带入生活，这可能有助于教育广大公众，”AR Media的律师兼首席执行官Andrew Rossow告诉TCN。”然而，从法律角度来看，这种对人工智能的利用和应用是非常令人不安和有问题的。”
Rossow指出了两个主要问题：隐私问题和对认识受害者的人造成情感上的痛苦。
深度伪造是一种越来越常见的用人工智能创建的视频类型，它描述的是虚假事件。深度伪造已经成为网络安全和执法官员关注的问题，由于Midjourney 5.1和OpenAI的DALL-E 2等快速发展的生成性人工智能平台，深度伪造已经变得越来越难发现。
在利用其技术产生的病毒性深度伪造事件增多之后，Midjourney于3月结束了其免费试用版。
人工智能的力量不断增强，也有骗子利用该技术试图骗取潜在投资者的资金和加密货币。上周，一个埃隆-马斯克宣传加密货币骗局的深度伪造视频走红。
据《滚石》杂志报道，上传Royalty Marie Floyd视频的账户已被TikTok取下，原因是 “违反了该平台关于描述私人的合成媒体的政策”。尽管如此，精灵已经离开了瓶子，发布类似视频的账户正在填补这个空白。
罗索说：”不幸的是，像这样的使用案例必须发生，以便我们在涉及隐私（死前和死后）和现在的新兴技术的问题上推进我们的法律判例和先例，这些技术本身仍然主要在我们法院的灰色地带运作，”
。
