Midjourney, компания, стоящая за одноименным популярным ИИ-генератором изображений «текст в изображение», закрыла доступ к бесплатной пробной версии после роста числа вирусных глубоких подделок, созданных с помощью ее технологии.
«Из-за сочетания чрезвычайного спроса и злоупотребления пробной версией мы временно отключаем бесплатные пробные версии, пока мы не внедрим наши следующие улучшения в систему», — написал основатель Midjourney Дэвид Хольц на сервере Discord компании в начале этой недели.
Глубокая подделка» — это реалистично выглядящий медиаматериал, созданный искусственным интеллектом путем изменения изображений, видео или аудио, чтобы показать реальных людей, делающих или говорящих то, чего они никогда не делали. Хотя глубокие подделки могут использоваться для развлечения, технология также может распространять ложную информацию, влиять на мнения или вредить репутации.
На сабреддите Midjourney происходит нечто дикое.
Люди рассказывают истории и делятся фотографиями исторических событий — например, землетрясения «Великая Каскадия», которое разрушило Орегон в 2001 году.
И что самое интересное? Этого никогда не было. Изображения сгенерированы искусственным интеллектом. pic.twitter.com/2ziHJYsTDK
— Джастин Мур (@venturetwins) 26 марта 2023
В начале этой недели по сети разлетелись фотографии Папы Франциска в суперстильной белой куртке-пуховике и ожерелье, инкрустированном бриллиантами. На прошлой неделе, когда основные новостные сайты сообщали о том, что бывший президент США Дональд Трамп вот-вот будет арестован в Нью-Йорке, в сети распространилась серия фотографий, на которых, как оказалось, экс-президента преследует полиция. В обоих случаях изображения выглядели даже более правдоподобно, чем аналогичные подделки, созданные экспертами с помощью Photoshop.
Сделать фотографии арестованного Трампа в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) 20 марта 2023
Многие сайты генеративного ИИ, включая Midjourney и Playground AI, уже ввели ограничения на подсказки сексуального содержания. Однако вопрос о том, что является приемлемым использованием в отношении глубоких подделок, все еще обсуждается, поскольку все эти сайты производят фотографии, которые не являются настоящими.
Подписные планы Midjourney варьируются от $10 до $60 в месяц, в зависимости от вычислительной мощности и функций, необходимых пользователю, включая возможность одновременного выполнения заданий. Платформа также предлагает годовые планы подписки.
Неясно, как закрытие бесплатного уровня решит проблему. Условия обслуживания Midjourney уже запрещают оскорбительные изображения знаменитостей или общественных деятелей.
Тема современного папы, порожденного ИИ (midjourney), выходит у нас из-под контроля
Prompts in ALT pic.twitter.com/9hJyQP369E
— Javi Lopez ⛩️ (@javilopen) March 28, 2023
TCN связался с Midjourney и Stability AI, создателями Stable Diffusion, для получения комментариев, но пока не получил ответа.
