Zpráva japonské zpravodajské pobočky oživila zvěsti o tom, že Putin na veřejnosti používá „dvojníky“, přičemž k tomu, aby se tyto fotografie „dvojníků“ více podobaly skutečnému ruskému prezidentovi, se údajně používá generativní umělá inteligence.
Toto nepodložené tvrzení koluje již několik měsíců a podle deníku Daily Mail se znovu objevilo v Japonsku. Podle něj japonští vědci analyzovali videa a fotografie Putina, na nichž se účastní různých akcí, a dospěli k závěru, že Putina hrají nejméně tři lidé. Ačkoli Kreml tato tvrzení okamžitě vyvrátil, příběh je nicméně vedlejším tématem rychlého rozvoje umělé inteligence: pokroku v technologii hlubokého falšování umělé inteligence.
Hluboké padělání umělou inteligencí je technika, která využívá algoritmy k nahrazování obličejů ve videích, obrázcích a dalším digitálním obsahu, aby padělaný obsah vypadal jako skutečný. Hluboké padělání je považováno za nový nebezpečný nástroj politické manipulace. Z odhalování hlubokých padělků se stalo rychle se rozvíjející odvětví, přičemž společnost OpenAI, lídr v oblasti generativní umělé inteligence, tvrdí, že dokáže identifikovat hluboké padělky s 99procentní přesností.
Výzkumníci však tvrdí, že to není snadné a bude to stále těžší.
Japonská televizní síť TBS uvedla, že se zabývala výzkumem založeným na umělé inteligenci, který naznačuje, že ruský prezident Vladimir Putin používá imitátory k tomu, aby na různých akcích. foto: Daily Mail
„V pravděpodobnostních technikách se lidé snaží určit, zda je něco umělou inteligencí, nebo ne,“ řekl prezident a generální ředitel společnosti Digimarc Riley McCormack v rozhovoru pro TCN. „Myslím, že jste viděli, že pokud se podíváte na mnoho těchto metod, nejlepší z nich mají velmi nízkou míru přesnosti.“
Společnost Digimarc, založená v roce 1994, nabízí digitální vodoznaky, které pomáhají identifikovat a chránit digitální aktiva a vlastnictví autorských práv. Vodoznaky jsou jednou z nejběžnějších metod identifikace hloubkových padělků a společnosti jako Google tuto metodu zkoumají.
Na konferenci Google Cloud Next v San Francisku představila společnost Alphabet a generální ředitel Googlu Sundar Pichai schopnosti platformy umělé inteligence Vertix společnosti Google v oblasti vodoznaků.
„Pomocí technologie poháněné technologií Google Deepmind lze obrázky generované umělou inteligencí Vertix opatřit vodoznakem způsobem, který je pro lidské oko neviditelný, aniž by byla narušena kvalita obrázku,“ řekl Pichai.
Jako strategie má však vodoznak mnoho slabin. McCormack uvedl, že zastavení hloubkového falšování vodoznaků umělou inteligencí by vyžadovalo, aby všichni používali stejné metody k prokázání toho, zda je něco vytvořeno umělou inteligencí, nebo je to skutečné – na což upozorňoval již dříve.
„Problém s generováním AI pouze pomocí vodoznaků,“ říká, „spočívá v tom, že ne každý generativní engine AI je bude akceptovat.“ Problémem jakéhokoli systému ověřování je, že pokud nemáte univerzálnost, je zbytečné označovat jen jedním způsobem.“
Vzhledem k tomu, že generátory obrázků umělé inteligence využívají obrázky volně dostupné na internetu a sociálních sítích, další odborníci navrhují přidat do generátoru kód, který sníží kvalitu obrázku, nebo použít jedy, které nevhodně označí data, takže po vložení dat do modelu umělé inteligence není umělá inteligence schopna vytvořit požadovaný obrázek a mohla by pod tlakem zkolabovat.
Ačkoli jsou hlavním cílem podvodů s hlubokou umělou inteligencí vládní představitelé, stále více hollywoodských celebrit nachází svou podobiznu v online podvodech a reklamách zahrnujících podvody s hlubokou umělou inteligencí.
Hollywoodská herečka Scarlett Johanssonová uvedla, že podniká právní kroky proti společnosti Lisa AI, která v reklamě použila umělou inteligencí vygenerovanou podobiznu hvězdy Avengers, aby zabránila neoprávněnému použití její podobizny. Minulý měsíc varoval gigant YouTube pan Zvíře své sledující, aby nenaletěli podvodníkům, a dokonce i Tom Hanks se stal obětí hluboce falešné reklamy AI.
V září papež František – oběť mnoha podvodů s hluboce falešnou umělou inteligencí – učinil z technologie ústřední bod svého kázání ke Světovému dni míru. Náboženský vůdce vyzval k otevřenému dialogu o umělé inteligenci a jejím významu pro lidstvo.
„Pozoruhodný pokrok v oblasti umělé inteligence má rychle rostoucí dopad na lidskou činnost, osobní a společenský život, politiku a ekonomiku,“ řekl František.
McCormack se domnívá, že se zdokonalováním nástrojů pro detekci umělé inteligence se budou zdokonalovat i generátory hlubokých falzifikátů, což povede k další frontě v závodech ve zbrojení umělou inteligencí, které začaly spuštěním ChatGPT v loňském roce.
„Generativní AI nevytváří problém hlubokých padělků ani problém dezinformací,“ řekl McCormack.“ Pouze je demokratizuje.
