Midjourney,同名流行的文本-图像AI图像生成器背后的公司,在其技术产生的病毒性深度假货上升之后,已经关闭了对其免费试用版的访问。
“Midjourney创始人大卫-霍尔茨(David Holz)本周早些时候在公司的Discord服务器上写道:”由于非同寻常的需求和试用的滥用,我们暂时停止了免费试用,直到我们对系统进行了下一步改进。
深度伪造 “是由人工智能通过改变图像、视频或音频来创建的看起来很真实的媒体,以显示真实的人在做或说他们从未做过的事情。虽然深度造假可能被用于娱乐,但该技术也可能传播虚假信息,影响意见,或损害声誉。
Midjourney subreddit上正在发生一些疯狂的事情。
人们正在讲述历史事件的故事并分享照片–比如2001年毁坏俄勒冈州的 “卡斯卡迪亚大地震”。
关键是什么?它从未发生过。这些图片是人工智能生成的。pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) March 26, 2023
本周早些时候,教皇弗朗西斯穿着超级时尚的白色羽绒服和镶钻项链的照片席卷整个网络。上周,当主流新闻网站报道美国前总统唐纳德-特朗普即将在纽约被捕时,一连串的照片被疯传,似乎显示前总统正在被警察追捕。在这两种情况下,这些图片看起来甚至比专家用Photoshop制作的类似假象更可信。
在等待特朗普被捕的过程中制作特朗普被捕的图片。pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
许多生成型人工智能网站,包括Midjourney和Playground AI,已经对会包含性内容的提示进行了限制。然而,就深度造假而言,什么是可接受的使用问题仍在争论之中,因为所有这些网站制造的照片都不是真的。
Midjourney的订阅计划从每月10美元到60美元不等,取决于处理能力,以及用户需要的功能–包括运行并发作业的能力。该平台还提供年度订阅计划。
目前还不清楚关闭其免费层将如何解决这个问题。Midjourney的服务条款已经禁止了名人或公众人物的攻击性图片。
#
# #
#
由人工智能产生的现代教皇的话题(midjourney)对我们来说已经失去了控制
ALT中的提示pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) March 28, 2023
TCN已经联系了《稳定扩散》的创造者Midjourney和Stability AI,要求他们发表评论,但是还没有收到回复。