Midjourney, firma stojąca za tytułowym popularnym generatorem obrazów AI typu text-to-image, zamknęła dostęp do swojej darmowej wersji próbnej po wzroście liczby wirusowych deep fakes generowanych przez jej technologię.
„Ze względu na połączenie nadzwyczajnego popytu i nadużycia próby, tymczasowo wyłączamy darmowe próby, dopóki nie wdrożymy naszych kolejnych ulepszeń systemu”, napisał założyciel Midjourney David Holz na firmowym serwerze Discord na początku tego tygodnia.
Głęboka podróbka” to realistycznie wyglądające media stworzone przez AI poprzez zmianę obrazów, filmów lub dźwięku, aby pokazać prawdziwych ludzi robiących lub mówiących rzeczy, których nigdy nie zrobili. Podczas gdy deep fake może być używany dla zabawy i rozrywki, technologia ta może również rozpowszechniać fałszywe informacje, wpływać na opinie lub szkodzić reputacji.
Coś dzikiego dzieje się na subreddicie Midjourney.
Ludzie opowiadają historie i dzielą się zdjęciami z historycznych wydarzeń – takich jak „Wielkie trzęsienie ziemi Cascadia”, które zniszczyło Oregon w 2001 roku.
Co jest najważniejsze? To nigdy nie miało miejsca. Zdjęcia są generowane przez sztuczną inteligencję. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 marca 2023
Na początku tego tygodnia, zdjęcia papieża Franciszka ubranego w super stylową białą kurtkę puffer i naszyjnik wysadzany diamentami przetoczyły się przez sieć. W zeszłym tygodniu, kiedy główne serwisy informacyjne donosiły, że były prezydent USA Donald Trump ma zostać aresztowany w Nowym Jorku, w sieci pojawiły się zdjęcia, na których widać, że były prezydent jest ścigany przez policję. W obu przypadkach zdjęcia wyglądały nawet bardziej wiarygodnie niż podobnego rodzaju fałszywki stworzone przez ekspertów za pomocą Photoshopa.
Wykonywanie zdjęć aresztowanego Trumpa w oczekiwaniu na aresztowanie Trumpa. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20 marca 2023
Wiele stron z generatywną SI, w tym Midjourney i Playground AI, ustanowiło już ograniczenia na podpowiedzi, które zawierałyby treści seksualne. Jednak kwestia tego, co jest akceptowalnym użyciem w odniesieniu do głębokich podróbek jest nadal dyskutowana, ponieważ wszystkie te strony produkują zdjęcia, które nie są prawdziwe.
Plany subskrypcji Midjourney wahają się od 10 do 60 dolarów miesięcznie, w zależności od mocy obliczeniowej i funkcji, które użytkownik wymaga – w tym zdolność do uruchomienia równoległych zadań. Platforma oferuje również roczne plany subskrypcji.
Nie jest jasne, jak zamknięcie jej darmowego poziomu rozwiąże problem. Warunki świadczenia usług Midjourney już zakazują obraźliwych zdjęć celebrytów lub osób publicznych.
Temat współczesnego papieża generowanego przez AI (midjourney) wymyka się nam spod kontroli
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) 28 marca 2023
TCN skontaktował się z Midjourney i Stability AI, twórcami Stabilnej Dyfuzji, w celu uzyskania komentarza, ale jeszcze nie otrzymał odpowiedzi.
