Британская организация Internet Watch Foundation (IWF) в очередной раз бьет тревогу по поводу стремительного распространения материалов о сексуальном насилии над детьми, созданных искусственным интеллектом (CSAM). В своем новом докладе, опубликованном в среду, организация сообщила, что всего за один месяц на одном из форумов darkweb было обнаружено более 20 254 изображений CSAM, сгенерированных искусственным интеллектом, и что поток такого отвратительного контента может «захлестнуть» Интернет.
По мере того как генераторы изображений ИИ становятся все более совершенными, возможности создания реалистичных копий людей растут семимильными шагами. ИИ-генераторы изображений, такие как Midjourney, Runway, Stable Diffusion и Dall-E от OpenAI, — лишь некоторые из платформ, способных создавать реалистичные изображения.
В этих облачных платформах, находящихся в широком доступе, введены существенные ограничения, правила и средства контроля, не позволяющие злоумышленникам использовать их инструменты для создания оскорбительного контента. Однако энтузиасты искусственного интеллекта регулярно ищут способы обойти эти меры защиты.
«Важно донести до широкой аудитории реалии ИИ CSAM, поскольку нам необходимо обсуждать темную сторону этой удивительной технологии», — отметила в докладе генеральный директор Фонда Сьюзи Харгривз.
Мы обнаружили в Интернете руководства, помогающие преступникам настраивать ИИ-видеокамеры для создания более реалистичных изображений сексуального насилия над детьми. Теперь, когда преступники используют реальных детей в качестве моделей для создания изображений ИИ, наши эксперты утверждают, что могут быть созданы новые изображения…. pic.twitter.com/kESw9nZEtD
— Internet Watch Foundation (IWF) (@IWFhotline) 25 октября 2023
В настоящее время предпринимается ряд согласованных усилий по борьбе со злоупотреблениями искусственным интеллектом. В сентябре генеральный директор Microsoft Брэд Смит предложил использовать правила KYC по образцу тех, что применяются финансовыми организациями, для выявления преступников, использующих модели искусственного интеллекта для распространения дезинформации и мошенничества.
В июле в штате Луизиана был принят закон, ужесточающий наказание за продажу и хранение детской порнографии, созданной искусственным интеллектом, согласно которому лица, признанные виновными в создании, распространении или хранении незаконных deepfakes с изображением несовершеннолетних, могут быть приговорены к тюремному заключению на срок от пяти до 20 лет, штрафу в размере до 10 000 долларов или обоим наказаниям вместе.
В августе Министерство юстиции США обновило свое руководство для граждан по федеральному законодательству США в области детской порнографии. На случай возникновения неясностей Министерство юстиции подчеркнуло, что изображения детской порнографии не защищены Первой поправкой и являются незаконными в соответствии с федеральным законодательством.
