Генеративный искусственный интеллект позволяет пользователям создавать всевозможные подделки. В последние дни в Интернете появились фальшивые фотографии бывшего президента Дональда Трампа, убегающего от полиции, президента России Путина, обнимающего кошечку, и даже Папы Римского в белом пуховике Balenciaga. Что нельзя делать?
Вы не можете сделать фотографию президента Китая Си Цзиньпина — по крайней мере, не на платформе генеративного ИИ Midjourney.
Чтобы замедлить распространение глубоких подделок в Интернете, Midjourney на прошлой неделе заявила, что прекращает бесплатную пробную версию, но платформа все еще может генерировать изображения мировых лидеров, причем президент Китая является заметным исключением. Попробуйте сделать это, и Midjourney, компания из Сан-Франциско, скажет вам, что это запрещено. Вы даже не можете использовать имя президента Китая в подсказке:
Критики утверждают, что запрет представляет собой форму цензуры, подрывающую фундаментальные принципы свободы слова и самовыражения.
«Сегодня, когда мир функционирует, и все мы тесно взаимосвязаны, очень важно, какие законы о свободе слова существуют в других странах», — сказала в интервью TCN Сара Маклафлин, старший научный сотрудник Фонда за индивидуальные права и самовыражение (FIRE). «Этот рынок или это правительство могут быть достаточно влиятельными, чтобы повлиять на работу американских компаний».
Маклафлин указал на взлом Sony в 2015 году, который показал, что сцена разрушения Великой Китайской стены была удалена из производственной копии фильма Адама Сэндлера «Пиксели» из-за опасений, что это может повредить кассовому успеху фильма в Китае.
FIRE — это некоммерческая организация из Филадельфии, которая защищает права на свободу слова в США, уделяя особое внимание студенческим городкам. Фонд, добавил Маклафлин, недавно расширился и стал «универсальной группой по защите свободы слова и Первой поправки».
Маклафлин сказал, что люди склонны совершать ошибку, отвергая международную цензуру как не имеющую к ним отношения.
Когда в прошлом году вопрос о цензуре поднялся на сервере Midjourney Discord, генеральный директор Midjourney Дэвид Хольц сказал, что компания хочет свести к минимуму драму.
«Нет никакого злого умысла — по сути, мы просто хотим минимизировать драму», — сказал Хольц, обращаясь к этому вопросу в июне прошлого года.
Снимаем, как арестовывают Трампа, в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ
— Элиот Хиггинс (@EliotHiggins)20 марта 2023
В сообщении на сервере Midjourney Discord в июне 2022 года Хольц подчеркнул разницу в восприятии политической сатиры в западных странах по сравнению с Китаем и признал, что политическая сатира, типичная для Запада, может вызвать проблемы в Китае и даже подвергнуть опасности пользователей.
Существует долгая история создания сатирических изображений мировых лидеров, особенно в США, где свобода слова и самовыражения закреплена в Конституции США, но не так в других странах.
«Это не просто вопрос американского закона против китайского», — сказал Маклафлин. «Все гораздо сложнее, и мы можем обнаружить, что инструменты, которые мы используем, в конечном итоге следуют законам других стран, а не нашим собственным, причем так, как мы не ожидали».
Хольц предположил, что большее благо — это позволить китайцам использовать технологию, а не поощрять политическую сатиру.
«Я думаю, что люди в Китае, использующие эту технологию, двигают [иглу] в мире в целом в положительном [направлении]», — сказал Хольц. «Случайные люди здесь, занимающиеся китайской политической сатирой, мало что добавляют к чему-либо — анализ затрат и выгод кажется очевидным».
Сторонники этих ограничений могут сказать, что они необходимы для предотвращения распространения дезинформации и потенциального злоупотребления технологией ИИ. Однако, несмотря на ограничение на изображения президента Си, Маклафлин не считает, что пребывание MidJounrey в Китае продлится долго.
«Меня не удивит, если Китай в конечном итоге заблокирует доступ к нему, несмотря на ограничения, поскольку они склонны исключать западные компании», — сказала она.
Маклафлин сказал, что то, что делает Midjourney, выходит за рамки нормы, сославшись на недавнее решение Twitter о цензуре контента в Индии.
«Недавно Twitter столкнулся с проблемами цензуры в Индии, когда правительство потребовало подвергнуть цензуре документальный фильм BBC о премьер-министре Моди», — сказал Маклафлин. «Twitter заблокировал контент только в Индии, а не по всему миру». С другой стороны, Mid-Journey делает так, что все не могут использовать имя Си Цзиньпина, что является эскалацией от простого блокирования китайских пользователей. «
