В этот понедельник был достигнут новый максимум или, возможно, минимум в демонстрации возможностей искусственного интеллекта (ИИ). Фотография, изображающая сфабрикованный взрыв в Пентагоне, быстро помеченная как созданная искусственным интеллектом, распространилась по социальным сетям как лесной пожар. Похоже, что она также вызвала кратковременную распродажу на американском фондовом рынке.
Тревожное изображение, на котором изображен дым, выходящий из культового здания, было распространено множеством аккаунтов, включая российский государственный медиа-канал.
RT, имеющий более 3 миллионов подписчиков, разместил (после чего удалил) то, что выглядит как сгенерированная искусственным интеллектом фотография взрыва возле Пентагонаpic.twitter.com/6Bl7X8ZA2M
— Leonardo Puglisi (@Leo_Puglisi6) May 22, 2023
Интересно, что сообщения о ложном взрыве в Пентагоне также попали на неофициальные аккаунты Twitter с синими галочками верификации, что еще больше усилило путаницу и влияние ложного сообщения, подчеркивая как важность тщательной проверки источников, так и неудивительный результат новых критериев проверки аккаунтов Элона Маска.
Этим утром синие проверочные счета утверждали о больших взрывах в Пентагоне.
… затем в Белом доме.
Российские государственные СМИ усилили фальшивое изображение Пентагона с их золотого чекового счета.
Изображения выглядят созданными искусственным интеллектом, как определили люди. 1/ pic.twitter.com/Bd9uu3jwPZ
— John Scott-Railton (@jsrailton) May 22, 2023
После того, как фотография стала вирусной, американские фондовые индексы незначительно упали, хотя рынки быстро восстановились после того, как фотография была разоблачена как мистификация. Биткойн, ведущая криптовалюта, также пережила кратковременный «флеш-обвал» после распространения фальшивых новостей, опустившись до отметки $26500. Однако биткоин медленно, но верно восстанавливается и в настоящее время торгуется на уровне $26 882, по данным CoinGecko.
Изображение: Yahoo! Finance
Влияние мистификации было достаточно значительным, чтобы пожарная служба округа Арлингтон вмешалась в ситуацию. «В резервации Пентагона или рядом с ней НЕТ взрыва или инцидента, — написали они в Твиттере, — и нет никакой непосредственной опасности или угрозы для населения»
@PFPAOfficial и ACFD осведомлены о распространенном в социальных сетях сообщении о взрыве возле Пентагона. В резервации Пентагона или рядом с ней не происходит никакого взрыва или инцидента, и нет никакой непосредственной опасности или угрозы для населения. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Прокладывая дорогу к большему регулированию ИИ
Этот вид обмана в Интернете вызвал серьезные опасения у критиков беспрепятственного развития ИИ. Многие эксперты в этой области предупреждают, что передовые системы ИИ могут стать инструментом для злоумышленников по всему миру, распространяя дезинформацию и вызывая столпотворение в Интернете.
Это уже не первый случай подобного обмана. Вирусные изображения, созданные ИИ, уже обманывали общественность, например, изображения Папы Франциска в пиджаке от Balenciaga, фальшивый арест президента Дональда Трампа и глубокие подделки таких знаменитостей, как Элон Маск или SBF, продвигающих криптовалютные аферы.
Известные личности также бьют тревогу по поводу распространения дезинформации.
Сотни технических экспертов уже призвали остановить на полгода разработку передового ИИ, пока не будут разработаны надлежащие правила безопасности. И даже доктор Джеффри Хинтон, широко известный как «крестный отец ИИ», даже ушел в отставку со своего поста в Google, чтобы высказать свои опасения по поводу потенциальных рисков ИИ без ущерба для репутации своего бывшего работодателя.
Эпизоды дезинформации, подобные этому, способствуют постоянным дебатам о необходимости создания нормативно-правовой и этической базы для ИИ. Поскольку ИИ становится все более мощным инструментом в руках агентов дезинформации, последствия могут быть хаотичными.
Исходя из сегодняшних событий, возникает один вопрос: Что если ИИ был агентом, использующим возможности социальных сетей для распространения хаоса и контроля над финансовыми рынками? Мы как бы предвидели, что это произойдет.
