Организация Объединенных Наций забила тревогу по поводу глубоких подделок, генерируемых искусственным интеллектом, которые используются для распространения ненависти и дезинформации в социальных сетях. В опубликованном в понедельник докладе «Целостность информации на цифровых платформах» всемирная организация подчеркнула необходимость ответственного использования ИИ.
«Несмотря на почти невообразимый потенциал для решения глобальных проблем, существует серьезная и неотложная обеспокоенность по поводу столь же мощного потенциала последних достижений в области искусственного интеллекта, включая генераторы изображений и видеоподделки, угрожающего целостности информации», — говорится в докладе ООН.
Целостность информации означает точность, последовательность и надежность информации, которой, по мнению ООН, угрожают дезинформация, дезинформация и язык вражды.
«Эти риски еще более усилились из-за быстрого развития технологий, таких как генеративный искусственный интеллект», — написал Генеральный секретарь ООН Гутерриш во введении к докладу. «Стало ясно, что вести дела как обычно — не вариант».
Генеративный ИИ — это тип программы, обычно представленный в виде чат-бота, который способен генерировать текст, изображения или другие медиа в ответ на подсказки.
В докладе ООН выражается обеспокоенность по поводу влияния deepfakes и генерируемой ИИ дезинформации в зонах конфликтов.
Использование языка вражды часто наблюдается как предвестник таких жестоких преступлений, как геноцид, отмечает ООН. В докладе также подчеркивается, что Конвенция о предупреждении преступления геноцида и наказании за него 1948 года запрещает любое прямое или публичное подстрекательство, которое может привести к геноциду.
Распространение ненависти и лжи в цифровом пространстве наносит серьезный глобальный ущерб.
Эта явная и настоящая глобальная угроза требует четких и скоординированных глобальных действий.
— @antonioguterresзапуск нового доклада о целостности информации на цифровых платформах. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
— United Nations (@UN) June 12, 2023
Несмотря на отсутствие конкретных примеров, в докладе ООН обращается внимание на недавние случаи использования генеративного ИИ для создания, в некоторых случаях, убедительно вводящего в заблуждение контента и изображений.
В марте сгенерированное ИИ изображение арестованного бывшего президента Дональда Трампа стало вирусным после того, как им поделился в Twitter основатель и креативный директор Bellingcat Элиот Хиггинс. В том же месяце компания Midjourney, стоящая за одноименным ИИ-генератором «текст в изображение», закрыла свою бесплатную пробную версию из-за широко распространенного злоупотребления.
«Все заинтересованные стороны должны принять срочные и безотлагательные меры для обеспечения безопасного, надежного, ответственного, этичного и соответствующего правам человека использования искусственного интеллекта и рассмотреть последствия последних достижений в этой области для распространения дезинформации и языка вражды», — говорится в сообщении ООН.
В докладе содержится призыв к владельцам цифровых платформ инвестировать в системы модерации контента, использующие как человеческий, так и искусственный интеллект для всех языков, используемых в странах, где они работают, и сделать отчетность о контенте прозрачной.
Отметив, что эпоха философии Кремниевой долины «двигайся быстро и ломай вещи» должна закончиться, международный орган заявил, что конфиденциальность, безопасность и прозрачность пользователей очень важны и должны быть заложены в новые технологии с самого начала.
Гутерриш указал на предстоящий Саммит будущего в 2024 году как на возможность договориться о многосторонних решениях.
«Проблемы, с которыми мы сталкиваемся, могут быть решены только путем укрепления международного сотрудничества», — сказал Генеральный секретарь Гутерриш.
