联合国对人工智能生成的深层假象被用来在社交媒体上传播仇恨和错误信息发出了警告。在周一发布的一份题为 “数字平台的信息完整性 “的报告中，该全球组织强调了负责任地使用人工智能的必要性。
“联合国报告说：”虽然在解决全球挑战方面拥有几乎难以想象的潜力，但人们对人工智能的最新进展–包括图像生成器和视频深度伪造–威胁信息完整性的同样强大的潜力感到严重和紧迫的关切。
信息完整性指的是信息的准确性、一致性和可靠性，联合国说这一点受到虚假信息、错误信息和仇恨言论的威胁。
“联合国秘书长古特雷斯在报告的导言中写道：”由于技术的快速发展，例如生成性人工智能，这些风险进一步加剧。”现在已经很清楚，一切照旧不是一个选项。”
生成性人工智能是一种程序，通常以聊天机器人的形式呈现，能够根据提示生成文本、图像或其他媒体。
联合国报告对冲突地区的深层假象和人工智能生成的错误信息的影响表示担忧。
联合国指出，仇恨言论的使用经常被观察到是种族灭绝等残暴罪行的先驱。报告还强调，1948年《防止及惩治灭绝种族罪公约》禁止任何可能导致灭绝种族的直接或公开煽动行为。
仇恨和谎言在数字空间的扩散正在造成严重的全球伤害。
这一明显的全球威胁要求采取明确和协调的全球行动。
– @antonioguterres发布其关于数字平台信息完整性的新报告。https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– 联合国（@UN）2023年6月12日
虽然没有给出具体的例子，但联合国的报告提请注意最近的一些案例，即生成性人工智能被用来创造，在某些情况下，令人信服的误导性内容和图像。
3月，一张由人工智能生成的前总统唐纳德-特朗普被逮捕的图片被Bellingcat创始人兼创意总监艾略特-希金斯(Eliot Higgins)分享到Twitter上后引起了热议。同月，同名的文本-图像人工智能生成器背后的公司Midjourney，因为广泛的滥用而结束了其免费试用版本。
“所有利益攸关方应立即采取紧急措施，确保安全、可靠、负责任、符合道德和人权的人工智能的使用，并解决这一领域的最新进展对传播错误和虚假信息以及仇恨言论的影响，”联合国说。
该报告呼吁数字平台的所有者投资于内容审核系统，该系统利用人类和人工智能对其运营国家使用的所有语言进行审核，并使内容报告透明。
该国际机构表示，硅谷 “快速行动，打破常规 “的时代必须结束，用户隐私、安全和透明度至关重要，应从一开始就纳入新技术。
古特雷斯指出，即将于2024年召开的未来峰会是一个商定多边解决方案的机会。
“古特雷斯秘书长说：”只有通过更强有力的国际合作，才能解决我们面临的挑战。
