Midjourney, компанията, която стои зад едноименния популярен генератор на изображения с изкуствен интелект от текст към изображение, прекрати достъпа до безплатната си пробна версия след ръст на вирусните дълбоки фалшификати, генерирани от нейната технология.
„Поради комбинация от извънредно търсене и злоупотреба с пробни версии временно деактивираме безплатните пробни версии, докато не внедрим следващите подобрения в системата“, написа основателят на Midjourney Дейвид Холц на сървъра Discord на компанията по-рано тази седмица.
„Дълбок фалшификат“ е реалистично изглеждаща медия, създадена от изкуствен интелект чрез промяна на изображения, видеоклипове или аудио, за да покаже истински хора, които правят или казват неща, които никога не са правили. Макар че дълбоките фалшификати могат да се използват за забавление и развлечение, технологията може също така да разпространява невярна информация, да влияе на мненията или да вреди на репутацията.
Нящо диво се случва в подредата Midjourney.
Хората разказват истории и споделят снимки на исторически събития – като земетресението „Голямата Каскадия“, което опустоши Орегон през 2001 г.
Истината? То никога не се е случило. Снимките са генерирани от изкуствен интелект. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 март 2023 г.
По-рано тази седмица в мрежата се появиха снимки на папа Франциск, облечен в суперстилно бяло пухено яке и колие с диаманти. Миналата седмица, когато основните новинарски сайтове съобщаваха, че бившият президент на САЩ Доналд Тръмп е на път да бъде арестуван в Ню Йорк, се разпространиха множество снимки, на които изглеждаше, че бившият президент е преследван от полицията. И в двата случая изображенията изглеждаха дори по-достоверни от подобен вид фалшификати, създадени от експерти с помощта на Photoshop.
Създаване на снимки, на които Тръмп е арестуван, докато чакате ареста на Тръмп. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
Много сайтове за генериращ изкуствен интелект, включително Midjourney и Playground AI, вече въведоха ограничения за подкани, които биха включвали сексуално съдържание. Въпреки това въпросът за това какво е приемлива употреба, доколкото става въпрос за дълбоки фалшификати, все още се обсъжда, тъй като всички тези сайтове произвеждат снимки, които не са истински.
Абонаментните планове на Midjourney варират от 10 до 60 долара месечно, в зависимост от мощността на обработката и функциите, които потребителят изисква – включително възможността за изпълнение на едновременни задачи. Платформата предлага и годишни абонаментни планове.
Не е ясно как закриването на безплатното ниво ще реши проблема. Условията за ползване на услугата на Midjourney вече забраняват обидни изображения на известни личности или публични фигури.
Темата за съвременния папа, генериран от изкуствения интелект (midjourney), ни излиза от употреба
Подсказки в ALT pic.twitter.com/9hJyQP369E
– Хави Лопес ⛩️ (@javilopen) 28 март 2023
TCN се свърза с Midjourney и Stability AI, създателите на Stable Diffusion, за коментар, но все още не е получил отговор.
