英国互联网监督公司互联网观察基金会（IWF）再次对人工智能生成的儿童性虐待材料的快速传播敲响了警钟。该组织在周三发布的一份新报告中称，仅在一个月内，在暗网的一个论坛上就发现了超过 20,254 张由人工智能生成的儿童性虐待图片–这些令人作呕的内容可能会 “淹没 “整个互联网。
随着人工智能图像生成器变得越来越复杂，创建逼真人类复制品的能力也在飞速提高。Midjourney、Runway、Stable Diffusion 和 OpenAI 的 Dall-E 等人工智能图像生成器只是能够创建逼真图像的少数几个平台。
这些向公众广泛开放的云平台已实施了大量限制、规则和控制措施，以防止其工具被不法分子用来创建侵权内容。然而，人工智能爱好者却经常想方设法绕过这些安全栅栏。
“基金会首席执行官苏西-哈格里夫斯（Suzi Hargreaves）在报告中说：”我们必须向广大受众宣传人工智能CSAM的现实情况，因为我们需要讨论这项神奇技术的阴暗面。
我们发现了一些在线手册，专门帮助犯罪分子调整人工智能图像生成器，以创建更逼真的人工智能儿童性虐待图像。现在，犯罪分子正在使用真实儿童作为模型来生成人工智能图像，我们的专家分析师说，新的图像可以被创造出来……pic.twitter.com/kESw9nZEtD
– 互联网观察基金会（IWF）（@IWFhotline）2023 年 10 月 25 日
。
IWF称其 “最可怕的噩梦 “已经成真，并表示目前正在追踪人工智能生成的真实性侵受害者的CSAM案例。该英国组织还强调了名人被污损和篡改成虐待受害者的图片，以及被篡改的著名儿童的照片。
“哈格里夫斯说：”受害者知道自己遭受的虐待可以在互联网的某个阴暗角落被分享还不够，他们现在还有可能面临自己被虐待的新图片，而且是以他们以前从未想象过的新的可怕方式。
IWF表示，人工智能生成的逼真CSAM泛滥的主要问题之一是，它可能会转移执法资源，使执法资源无法用于侦查和纠正实际的虐待行为。
IWF 成立于 1996 年，是一家非营利性组织，致力于监控互联网上的性虐待内容，尤其是针对儿童的性虐待内容。
今年 9 月，IWF 警告说，恋童癖团伙正在讨论和分享利用开源人工智能模型制作非法儿童图像的诀窍，这些模型可以下载并在本地 PC 上运行。
“IWF 表示：”犯罪者可以合法地下载生成这些图像所需的一切，然后他们就可以在离线状态下随心所欲地制作图像，而不可能被发现。
英国团体呼吁开展国际合作，打击 CSAM 这一祸害，并建议采取多管齐下的方法，包括修改相关法律、更新执法培训以及建立对人工智能模型的监管。
对于人工智能开发者，IWF 建议他们禁止使用其人工智能创建虐待儿童的材料，取消相关模型的索引，并优先从其模型中删除虐待儿童的材料。
“这是一个全球性问题，需要各国共同努力，确保立法符合目的，”哈格里夫斯在此前与 TCN 分享的一份声明中说，并指出 IWF 在他的国家有效遏制了 CSAM。
“哈格里夫斯说：”在英国托管的犯罪内容不到 1%，这说明我们与英国警方和机构建立了良好的工作伙伴关系，我们也将就这一令人担忧的新趋势与执法部门积极合作。”我们敦促英国首相将这一问题坚定地列入英国将于 11 月主办的全球人工智能安全峰会的议程。”
尽管 IWF 表示正在取缔在英国托管非法 CSAM 的暗网论坛，但该组织表示，如果网站托管在其他国家，取缔工作可能会更加复杂。
有许多打击人工智能滥用的共同努力。9 月，微软总裁布拉德-史密斯（Brad Smith）建议仿照金融机构使用的关键行动政策，帮助识别利用人工智能模型传播错误信息和滥用行为的犯罪分子。
7 月，路易斯安那州通过了一项法律，加重了对销售和拥有人工智能生成的儿童色情制品的处罚，该法律规定，任何被判定创建、传播或拥有描绘未成年人的非法 deepfake 图像的人都可能被判处 5 至 20 年的强制监禁、最高 1 万美元的罚款，或两者并罚。
今年 8 月，美国司法部更新了《美国联邦儿童色情法律公民指南》。司法部强调，儿童色情描绘不受第一修正案的保护，根据联邦法律是非法的。
