本周一标志着人工智能（AI）的力量达到了新的高度，也可以说是低点。一张描述五角大楼捏造的爆炸的图片，很快被标记为人工智能产生的，像野火一样在社交媒体上传播。它似乎还刺激了美国股市的瞬间抛售。
这张令人震惊的图片描绘了从标志性建筑中冒出的浓烟，被许多账户传播，包括一个俄罗斯国有媒体频道。
RT，拥有300多万粉丝，发布了（后来删除了）看起来是人工智能生成的五角大楼附近爆炸的照片pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) May 22, 2023
有趣的是，关于五角大楼虚假爆炸的报道也进入了带有蓝色验证标记的非官方推特账户，进一步扩大了混乱和虚假事件的影响–突出了严格的来源验证的重要性，以及埃隆-马斯克的账户验证新标准所带来的不令人惊讶的结果。
今天早上，蓝色检查账户账户声称在五角大楼发生了大型爆炸。
…然后是白宫。
俄罗斯国家媒体从他们的黄金支票账户放大了伪造的五角大楼图像。
这些图像看起来是人工智能生成的，正如人们所确认的。1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) May 22, 2023
随着照片的疯传，美国股指受到了轻微打击，不过在照片被曝光为骗局后，市场迅速恢复了。比特币作为领先的加密货币，在假新闻传播后也经历了短暂的 “闪电崩盘”，滑落至26500美元。然而，根据CoinGecko.
的数据，比特币正在缓慢但肯定地恢复，目前它的交易价格是26882美元。
图片： Yahoo! Finance
这个骗局的影响很大，足以促使阿灵顿县消防局进行干预。”他们在推特上说：”五角大楼保留区或附近没有发生爆炸或事件，对公众没有直接危险或危害。”
@PFPAOfficial和ACFD知道网上流传的关于五角大楼附近发生爆炸的社交媒体报道。在五角大楼保留区或附近没有发生爆炸或事件，对公众没有直接的危险或危害。pic.twitter.com/uznY0s7deL
– 阿灵顿消防& EMS (@ArlingtonVaFD) May 22, 2023
为更多的人工智能监管铺平道路
。
这种类型的网上欺骗行为已经引起了批评者对无节制的人工智能发展的严重关切。该领域的许多专家警告说，先进的人工智能系统可能成为全世界恶意行为者的工具，散布错误信息，造成网上混乱。
这并不是第一次出现这种诡计。此前，人工智能生成的病毒性图片曾欺骗过公众，比如教皇弗朗西斯穿着Balenciaga夹克的图片，唐纳德-特朗普总统的假逮捕，以及埃隆-马斯克或SBF等名人的深度伪造，宣传加密货币骗局。
知名人士也对虚假信息的传播发出了警报。
数百名技术专家已经呼吁，在建立适当的安全准则之前，高级人工智能的开发应停止6个月。甚至广为人知的 “人工智能教父 “杰弗里-辛顿博士，甚至辞去了他在谷歌的职务，以表达他对潜在人工智能风险的担忧，而不损害他前雇主的声誉。
像这样的错误信息事件，为正在进行的围绕人工智能监管和道德框架需求的辩论提供了素材。随着人工智能成为虚假信息代理人手中日益强大的工具，其后果可能是混乱的。
基于今天的事件，有一个问题非常突出： 如果人工智能是利用社交媒体的力量来传播混乱和控制金融市场的代理人呢？我们看到了它的到来。
