Midjourney, společnost stojící za stejnojmenným populárním generátorem obrázků umělé inteligence z textu na obraz, uzavřela přístup k bezplatné zkušební verzi poté, co se zvýšil počet virálních hlubokých podvrhů vytvořených její technologií.
„Kvůli kombinaci mimořádné poptávky a zneužití zkušební verze dočasně vypínáme bezplatné zkušební verze, dokud nebudeme mít nasazena další vylepšení systému,“ napsal na začátku týdne na serveru Discord společnosti Midjourney její zakladatel David Holz.
„Hluboký podvrh“ je realisticky vypadající médium vytvořené umělou inteligencí úpravou obrázků, videí nebo zvuku tak, aby ukazovalo skutečné lidi, kteří dělají nebo říkají věci, které nikdy nedělali. Hluboké podvrhy mohou sloužit k zábavě a pobavení, ale tato technologie může také šířit nepravdivé informace, ovlivňovat názory nebo poškozovat pověst.
Něco divokého se děje na subredditu Midjourney.
Lidé vyprávějí příběhy a sdílejí fotografie historických událostí – například zemětřesení „Great Cascadia“, které v roce 2001 zpustošilo Oregon.
A co je na tom nejzajímavější? Nikdy se to nestalo. Obrázky jsou vytvořeny umělou inteligencí. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26. března 2023
Na začátku tohoto týdne obletěly internet fotografie papeže Františka v superstylové bílé péřové bundě a náhrdelníku posetém diamanty. Minulý týden, kdy hlavní zpravodajské weby informovaly o tom, že bývalý americký prezident Donald Trump má být v New Yorku zatčen, se rozšířila řada fotografií, na nichž se zdálo, že exprezidenta pronásleduje policie. V obou případech vypadaly snímky dokonce věrohodněji než podobné druhy podvrhů, které vytvořili odborníci pomocí Photoshopu.
Vytváření snímků zatýkání Trumpa při čekání na zatčení Trumpa. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20. března 2023
Mnoho stránek s generativní umělou inteligencí, včetně Midjourney a Playground AI, již zavedlo omezení pro výzvy, které by obsahovaly sexuální obsah. Otázka, co je přijatelné použití, pokud jde o hluboké podvrhy, je však stále předmětem diskusí, protože všechny tyto stránky vyrábějí fotografie, které nejsou skutečné.
Plány předplatného Midjourney se pohybují od 10 do 60 dolarů měsíčně v závislosti na výpočetním výkonu a funkcích, které uživatel požaduje – včetně možnosti spouštět souběžné úlohy. Platforma nabízí také roční plány předplatného.
Není jasné, jak uzavření její bezplatné úrovně problém vyřeší. Podmínky služby Midjourney již zakazují urážlivé obrázky celebrit nebo veřejných osobností.
Téma moderního papeže generovaného umělou inteligencí (midjourney) se nám vymyká z rukou .
Podněty v ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) 28. března 2023
TCN kontaktovala společnosti Midjourney a Stability AI, tvůrce hry Stable Diffusion, s žádostí o vyjádření, ale zatím se neozvala.
