Развитие искусственного интеллекта происходит экспоненциальными темпами и порой выходит за рамки необходимого контроля, в результате чего не всегда понятно, чем именно он занимается. Именно такая ситуация привела к неожиданному обнаружению ИИ-агента, который, по-видимому, самостоятельно решил заняться майнингом криптовалюты, перенаправив на это свои вычислительные мощности, предназначенные для обучения.
Агент ИИ решает майнить криптовалюты
Несмотря на несколько слишком редких мер предосторожности, которые скорее навязываются, чем добровольно внедряются, развитие ИИ распространяется во всех сферах общества, порой выходя за пределы, которые, как считали некоторые, были установлены, до такой степени, что, например, значительная часть его агентов отдаёт предпочтение биткоину для своих финансовых операций.
Такой интерес к криптовалютам может способствовать тому, что они станут настоящей валютой Интернета, особенно в контексте стремительно развивающихся обменных операций типа «агент-агент» (A2A). Однако эта тенденция, похоже, также влечет за собой и более необычные виды деятельности, такие как майнинг, осуществляемый, по-видимому, автономно.
Подробнее: что такое майнинг (добыча) биткоина и криптовалют?
Действительно, недавние данные, обнародованные Александром Лонгом в сети X, свидетельствуют о «нелепых заявлениях, спрятанных в техническом отчете Alibaba». Речь идет о серии нарушений безопасности, обнаруженных на тренировочных серверах, предназначенных для ИИ-агента (название которого остаётся неизвестным), связанных с «схемами трафика, характерными для майнинга криптовалют».
Отчет Alibaba об ИИ-агенте, решившем заняться майнингом криптовалюты
Изначально мы рассматривали этот инцидент как классическую проблему безопасности. Однако нарушения повторялись с перерывами, без четкой временной закономерности между отдельными выполнениями. В журналах соответствующей модели мы заметили, что агент проактивно инициировал вызовы соответствующих инструментов и этапы выполнения кода, которые привели к этим сетевым действиям.
Отчет Alibaba
Несанкционированное перенаправление ресурсов графического процессора
У всех сразу возникает вопрос: как этот явно непослушный ИИ-агент смог получить доступ к вычислительной мощности, необходимой для майнинга? Просто путем несанкционированного перенаправления части ресурсов, предназначенных для процесса обучения с подкреплением, без какого-либо предварительного разрешения.
Мы также наблюдали скрытое перенаправление вычислительной мощности, предназначенной для обучения, с целью несанкционированного перераспределения доступных ресурсов графического процессора (GPU) для майнинга криптовалюты, что привело к увеличению операционных затрат и создало очевидный риск юридических последствий и ущерба репутации.
Отчет Alibaba
Согласно отчету, эта деятельность, по-видимому, не требующая предварительного вмешательства человека, включает в себя «небезопасные действия, возникшие без явных инструкций и, что еще более тревожно, за пределами рамок установленной «песочницы» (sandbox)».
Вывод может иметь две совершенно разные формы: является ли это подтверждением интереса к криптовалютам со стороны ИИ-агента, обретшего автономность, или доказательством того, что такие модели могут генерировать неконтролируемое поведение за пределами разрешенных рамок?
