Този понеделник отбеляза нов връх – или може би дъно – в демонстрацията на силата на изкуствения интелект (ИИ). Снимка, изобразяваща изфабрикувана експлозия в Пентагона, която бързо беше обозначена като генерирана от изкуствен интелект, се разпространи като горски пожар в социалните медии. Изглежда, че тя е предизвикала и краткотрайна разпродажба на фондовия пазар в САЩ.
Тревожното изображение, изобразяващо дим, излизащ от емблематичната сграда, беше разпространено от множество акаунти, включително руски държавен медиен канал.
RT, с над 3 млн. последователи, публикува (впоследствие изтрита) снимка, която изглежда е генерирана от изкуствен интелект, на експлозия в близост до Пентагона pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) 22 май 2023 г.
Интересен е фактът, че съобщенията за фалшивата експлозия в Пентагона попаднаха и в неофициални акаунти в Twitter със сини отметки за проверка, което допълнително засили объркването и въздействието на фалшивата информация, подчертавайки както важността на стриктната проверка на източниците, така и изненадващия резултат от новите критерии на Елон Мъск за проверка на акаунти.
Тази сутрин сините акаунти проверяват акаунти, в които се твърди за големи експлозии в Пентагона.
… а след това и в Белия дом.
Руските държавни медии засилиха фалшивото изображение на Пентагона от своя златен чек акаунт.
Изображенията изглеждат генерирани от изкуствен интелект, както установиха хората. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) May 22, 2023
След като снимката се разпространи като вирус, борсовите индекси в САЩ понесоха лек удар, въпреки че пазарите бързо се възстановиха, след като снимката беше разкрита като измама. Биткойнът, водещата криптовалута, също преживя кратък „светкавичен срив“ след разпространението на фалшивата новина, като се смъкна до 26500 долара. Въпреки това Биткойн бавно, но сигурно се възстановява и в момента се търгува на цена от 26 882 долара, според CoinGecko.
Изображение: Yahoo! Finance
Въздействието на измамата е било достатъчно значително, за да накара пожарната служба на окръг Арлингтън да се намеси. „В резервата на Пентагона или в близост до него НЯМА експлозия или инцидент“, написаха те в Туитър, „и няма непосредствена опасност или опасности за обществеността.“
@PFPAOfficial и ACFD са запознати със съобщение в социалните медии, разпространено в интернет, за експлозия в близост до Пентагона. В резервата на Пентагона или в близост до него НЯМА експлозия или инцидент и няма непосредствена опасност или опасност за обществеността. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Проправяне на пътя към повече регулации на изкуствения интелект
Този вид онлайн измама предизвиква сериозна загриженост сред критиците на необузданото развитие на ИИ. Много експерти в тази област предупреждават, че усъвършенстваните системи за ИИ могат да се превърнат в инструменти на злонамерени участници по целия свят, да разпространяват дезинформация и да предизвикват онлайн стълпотворение.
Това не е първият случай на подобна измама. Вирусни изображения, генерирани от ИИ, са заблуждавали обществеността и преди, като например изображения на папа Франциск, облечен в яке на Balenciaga, фалшив арест на президента Доналд Тръмп и дълбоки фалшификати на известни личности като Елон Мъск или SBF, които рекламират крипто измами.
Известни личности също алармираха за разпространението на дезинформация.
Стотици технологични експерти вече призоваха за шестмесечно спиране на разработването на усъвършенстван изкуствен интелект, докато не бъдат установени подходящи насоки за безопасност. И дори д-р Джефри Хинтън, широко известен като „Кръстникът на ИИ“, дори подаде оставка от длъжността си в Google, за да изрази опасенията си относно потенциалните рискове, свързани с ИИ, без да накърнява репутацията на бившия си работодател.
Епизоди на дезинформация като този допринасят за продължаващия дебат относно необходимостта от регулаторна и етична рамка за ИИ. Тъй като ИИ се превръща във все по-мощен инструмент в ръцете на агенти на дезинформация, последствията могат да бъдат хаотични.
Въз основа на днешните събития се откроява един въпрос: Какво би станало, ако ИИ беше агентът, който използва силата на социалните медии, за да разпространява хаос и да контролира финансовите пазари? В известен смисъл го очаквахме.
