Ten poniedziałek oznaczał nowy szczyt lub prawdopodobnie najniższy poziom w demonstrowaniu potęgi sztucznej inteligencji (AI). Zdjęcie przedstawiające sfabrykowaną eksplozję w Pentagonie, szybko oznaczone jako wygenerowane przez sztuczną inteligencję, rozprzestrzeniło się jak pożar w mediach społecznościowych. Wydaje się również, że wywołało ono chwilową wyprzedaż na amerykańskiej giełdzie.
Niepokojący obraz, przedstawiający dym unoszący się z kultowego budynku, został rozpowszechniony przez wiele kont, w tym rosyjski państwowy kanał medialny.
RT, z ponad 3 milionami obserwujących, opublikował (od tego czasu usunięte) coś, co wygląda na wygenerowane przez sztuczną inteligencję zdjęcie eksplozji w pobliżu Pentagonu pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) May 22, 2023
Co ciekawe, doniesienia o fałszywej eksplozji w Pentagonie trafiły również na nieoficjalne konta na Twitterze z niebieskimi znacznikami weryfikacji, co jeszcze bardziej zwiększyło zamieszanie i wpływ fałszu – podkreślając zarówno znaczenie rygorystycznej weryfikacji źródła, jak i niezaskakujący wynik nowych kryteriów weryfikacji konta Elona Muska.
This morning blue check accounts accounts claimed large explosions at the Pentagon.
… a następnie w Białym Domu.
Rosyjskie media państwowe wzmocniły fałszywy obraz Pentagonu z ich złotego konta kontrolnego.
Obrazy wyglądają na wygenerowane przez sztuczną inteligencję, jak zidentyfikowali ludzie. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) May 22, 2023
Gdy zdjęcie stało się wirusowe, amerykańskie indeksy giełdowe odnotowały niewielki spadek, chociaż rynki szybko odzyskały równowagę po tym, jak zdjęcie zostało ujawnione jako mistyfikacja. Bitcoin, wiodąca kryptowaluta, również doświadczył krótkiego „flash crashu” po rozprzestrzenieniu się fałszywych wiadomości, spadając do 26500 USD. Jednak Bitcoin powoli, ale z pewnością odzyskuje siły i obecnie jest sprzedawany po cenie 26 882 USD, zgodnie z CoinGecko.
Image: Yahoo! Finance
Wpływ mistyfikacji był na tyle znaczący, że skłonił straż pożarną hrabstwa Arlington do interwencji. „W rezerwacie Pentagon lub w jego pobliżu NIE MA eksplozji ani incydentu” – napisali na Twitterze – „i nie ma bezpośredniego zagrożenia ani niebezpieczeństwa dla społeczeństwa”.
@PFPAOfficial i ACFD są świadomi krążącego w mediach społecznościowych raportu o eksplozji w pobliżu Pentagonu. W rezerwacie Pentagon lub w jego pobliżu NIE ma eksplozji ani incydentu i nie ma bezpośredniego zagrożenia ani niebezpieczeństwa dla ludności. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) 22 maja 2023
Torowanie drogi do większej regulacji AI
Ten rodzaj oszustwa online wzbudził poważne obawy wśród krytyków nieograniczonego rozwoju sztucznej inteligencji. Wielu ekspertów w tej dziedzinie ostrzega, że zaawansowane systemy sztucznej inteligencji mogą stać się narzędziami dla wrogich podmiotów na całym świecie, szerząc dezinformację i powodując internetowe pandemonium.
To nie pierwszy raz, kiedy pojawiają się takie sztuczki. Wirusowe obrazy generowane przez sztuczną inteligencję już wcześniej oszukiwały opinię publiczną, takie jak zdjęcia papieża Franciszka w kurtce Balenciaga, fałszywe aresztowanie prezydenta Donalda Trumpa i deepfake’i celebrytów, takich jak Elon Musk czy SBF, promujące oszustwa kryptograficzne.
Znane osobistości również alarmowały o rozprzestrzenianiu się dezinformacji.
Setki ekspertów technologicznych wezwało już do sześciomiesięcznego wstrzymania rozwoju zaawansowanej sztucznej inteligencji do czasu ustanowienia odpowiednich wytycznych dotyczących bezpieczeństwa. Nawet dr Geoffrey Hinton, powszechnie znany jako „ojciec chrzestny sztucznej inteligencji”, zrezygnował nawet ze swojej roli w Google, aby wyrazić swoje obawy dotyczące potencjalnych zagrożeń związanych ze sztuczną inteligencją bez szkody dla reputacji swojego byłego pracodawcy.
Epizody dezinformacji, takie jak ten, wpisują się w trwającą debatę na temat potrzeby stworzenia ram regulacyjnych i etycznych dla sztucznej inteligencji. Ponieważ sztuczna inteligencja staje się coraz potężniejszym narzędziem w rękach agentów dezinformacji, konsekwencje mogą być chaotyczne.
Na podstawie dzisiejszych wydarzeń nasuwa się jedno pytanie: Co by było, gdyby SI była agentem wykorzystującym siłę mediów społecznościowych do szerzenia chaosu i kontrolowania rynków finansowych? Tak jakbyśmy to przewidzieli.
