Социальный медиагигант Twitter утверждает, что новая система предотвращения распространения материалов о сексуальном насилии над детьми (CSAM) на его платформе была «развернута беспрепятственно», тестируя технологию, разработанную некоммерческой группой Thorn.
Аккаунт Twitter Safety объявил во вторник, что он участвовал в бета-тестировании решения Safer, разработанного группой на основе искусственного интеллекта, для проактивного обнаружения, удаления и сообщения о текстовых материалах, содержащих сексуальную эксплуатацию детей.
Благодаря нашему постоянному партнерству с @thorn мы делаем больше для создания безопасной платформы. X участвовал в тестировании решения Thorn на стадии бета-тестирования для проактивного обнаружения детской сексуальной эксплуатации на основе текстовых сообщений. Эта работа основывается на наших неустанных усилиях по борьбе с детской сексуальной…
— Safety (@Safety) May 7, 2024
«Благодаря нашему постоянному сотрудничеству с Thorn мы делаем все больше для создания безопасной платформы», — написал аккаунт Twitter Safety. «Эта работа основывается на наших неустанных усилиях по борьбе с сексуальной эксплуатацией детей в Интернете, а также на расширении наших возможностей по борьбе с контентом, причиняющим большой вред, когда ребенок подвергается непосредственному риску».
«Это самостоятельное решение было органично вписано в наши механизмы обнаружения, что позволило нам выявлять аккаунты с высокой степенью риска», — говорится далее.
Компания Thorn, основанная в 2012 году актерами Деми Мур и Эштоном Катчером, разрабатывает инструменты и ресурсы, направленные на защиту детей от сексуального насилия и эксплуатации. В апреле Google, Meta и OpenAI подписали обещание, данное Thorn и другой некоммерческой организацией All Tech is Human, пообещав ввести оградительные меры в отношении своих моделей искусственного интеллекта.
«Мы многому научились в ходе бета-тестирования», — сказала TCN вице-президент Thorn по науке о данных Ребекка Портнофф. «Хотя мы знали, что сексуальное насилие над детьми проявляется во всех типах контента, включая текст, в ходе бета-тестирования мы наглядно увидели, как машинное обучение/ИИ для текста может оказать реальное воздействие в масштабе».
Как объяснил Портнов, модель Safer AI состоит из языковой модели, обученной на текстах, связанных с детской безопасностью, и системы классификации, которая генерирует многозначные прогнозы для текстовых последовательностей. Оценки предсказаний варьируются от 0 до 1, что указывает на уверенность модели в том, что текст относится к различным категориям детской безопасности.
Хотя Портнофф не смогла сообщить, какие еще платформы социальных сетей участвуют в бета-тестировании набора продуктов Safer, она отметила, что реакция других компаний была положительной.
«Некоторые партнеры отметили, что модель особенно полезна для выявления вредных действий, связанных с сексуальным насилием над детьми, определения приоритетности сообщений и поддержки расследований в отношении известных злоумышленников», — сказала Портнофф.
В связи с распространением инструментов генеративного искусственного интеллекта после запуска ChatGPT в 2022 году, такие группы наблюдателей за интернетом, как британская организация Internet Watch Foundation, забили тревогу по поводу потока детской порнографии, созданной искусственным интеллектом, циркулирующей на темных веб-форумах, заявив, что этот незаконный материал может захлестнуть интернет.
Заявление команды Twitter Safety было сделано за несколько часов до того, как Европейский союз потребовал от компании объяснить сообщения о «сокращении ресурсов для модерации контента».
В последнем отчете о прозрачности, который Twitter представил регуляторам ЕС, говорится, что меры Элона Маска по сокращению расходов привели к уменьшению численности команды модераторов контента платформы почти на 20 % с октября 2023 года и сокращению количества контролируемых языков с 11 до 7.
«Комиссия также просит предоставить более подробную информацию об оценке рисков и мерах по их снижению, связанных с влиянием инструментов генеративного ИИ на избирательные процессы, распространение незаконного контента и защиту основных прав», — говорится в требовании.
ЕС начал официальное разбирательство против Twitter в декабре 2023 года в связи с тем, что компания нарушила Закон о цифровых услугах в нескольких областях, включая управление рисками, модерацию контента, «темные схемы» и доступ к данным для исследователей.
Комиссия заявила, что Twitter должен предоставить запрашиваемую информацию к 17 мая и ответить на дополнительные вопросы к 27 мая.
