Toto pondělí znamenalo nový vrchol nebo pravděpodobně minimum v demonstraci síly umělé inteligence (AI). Obrázek zobrazující vymyšlený výbuch v Pentagonu, který byl rychle označen jako generovaný umělou inteligencí, se šířil jako požár po sociálních sítích. Zdá se, že to také podnítilo chvilkový výprodej na americkém akciovém trhu.
Znepokojivý obrázek, na němž se z ikonické budovy valí kouř, se šířil prostřednictvím mnoha účtů, včetně ruského státního mediálního kanálu.
RT s více než 3 miliony sledujících zveřejnil (mezitím smazal) něco, co vypadá jako fotografie výbuchu poblíž Pentagonu generovaná umělou inteligencí pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) 22. května 2023
Zajímavé je, že zprávy o falešném výbuchu v Pentagonu se dostaly i na neoficiální účty na Twitteru s modrými kontrolními značkami, což ještě více umocnilo zmatek a dopad falešné zprávy, což poukazuje jak na důležitost důsledného ověřování zdrojů, tak na nepřekvapivý výsledek nových kritérií Elona Muska pro ověřování účtů.
Dnes ráno modrá kontrola účtů účty tvrdily, že v Pentagonu došlo k velkým explozím.
… a pak v Bílém domě.
Ruská státní média posílila zfalšovaný obrázek Pentagonu ze svého zlatého šekového účtu.
Snímky vypadají jako vytvořené umělou inteligencí, jak identifikovali lidé. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) 22. května 2023
Když se fotografie stala virální, americké akciové indexy utrpěly menší ztrátu, i když se trhy po odhalení fotografie jako podvodu rychle zotavily. Bitcoin, přední kryptoměna, po rozšíření falešné zprávy také zažil krátký „flash crash“ a propadl se na 26 500 dolarů. Přesto se Bitcoin pomalu, ale jistě zotavuje a v současné době se podle CoinGecko obchoduje za 26 882 dolarů.
Obrázek: Yahoo! Finance
Vliv hoaxu byl natolik významný, že přiměl hasičský sbor okresu Arlington k zásahu. „V rezervaci Pentagon ani v její blízkosti nedošlo k žádnému výbuchu ani incidentu,“ uvedli na Twitteru, „a veřejnosti nehrozí žádné bezprostřední nebezpečí ani ohrožení.“
@PFPAOfficial a ACFD jsou si vědomy zprávy o výbuchu v blízkosti Pentagonu, která koluje po sociálních sítích. V rezervaci Pentagon ani v její blízkosti k žádnému výbuchu ani incidentu nedochází a veřejnosti nehrozí žádné bezprostřední nebezpečí ani ohrožení. pic.twitter.com/uznY0s7deL
– Arlington Fire & amp; EMS (@ArlingtonVaFD) 22. května 2023
Dláždíme cestu k větší regulaci umělé inteligence
Tento typ online podvodů vyvolal vážné obavy kritiků neomezeného rozvoje umělé inteligence. Mnozí odborníci v této oblasti varovali, že by se pokročilé systémy UI mohly stát nástrojem zlomyslných aktérů po celém světě, šířit dezinformace a způsobit online pandemonium.
Není to poprvé, co se takové podvody objevily. Virální obrázky generované umělou inteligencí již dříve oklamaly veřejnost, například snímky papeže Františka v bundě Balenciaga, falešné zatčení prezidenta Donalda Trumpa a deepfakes celebrit, jako je Elon Musk nebo SBF, propagující kryptografické podvody.
Před šířením dezinformací bijí na poplach i významné osobnosti.
Stovky technologických odborníků již vyzvaly k půlročnímu zastavení vývoje pokročilé umělé inteligence, dokud nebudou stanoveny řádné bezpečnostní pokyny. A dokonce i Dr. Geoffrey Hinton, všeobecně známý jako „kmotr umělé inteligence“, dokonce odstoupil ze své funkce ve společnosti Google, aby vyjádřil své obavy z možných rizik AI, aniž by poškodil pověst svého bývalého zaměstnavatele.
Epizody dezinformací, jako je tato, nahrávají probíhající debatě o potřebě regulačního a etického rámce pro AI. Vzhledem k tomu, že se AI stává stále silnějším nástrojem v rukou dezinformačních agentů, mohou být následky chaotické.
Na základě dnešních událostí vyvstává jedna otázka: Co kdyby byla UI agentem, který by využíval sílu sociálních médií k šíření chaosu a ovládání finančních trhů? Tak nějak jsme to čekali.
