Развитие искусственного интеллекта происходит с экспоненциальной скоростью и порой выходит за рамки необходимого контроля, в результате чего не всегда известно, чем именно он занимается. Именно такая ситуация привела к неожиданному обнаружению ИИ-агента, который, по всей видимости, самостоятельно принял решение майнить криптовалюту, перенаправив на это свои вычислительные мощности, предназначенные для обучения.
Агент ИИ решает майнить криптовалюту
Несмотря на несколько слишком редких мер предосторожности, которые скорее навязываются, чем добровольно внедряются, развитие ИИ распространяется во всех сферах общества, порой выходя за пределы, которые, как считали некоторые, были установлены, до такой степени, что, например, значительная часть его агентов отдаёт предпочтение биткойну для своих финансовых операций.
Интерес к криптовалютам, который может способствовать превращению их в настоящую валюту Интернета, особенно в контексте стремительно развивающихся обменных операций типа «агент-агент» (A2A). Однако это сближение, по-видимому, также влечет за собой более необычные виды деятельности, такие как майнинг, осуществляемый, судя по всему, автономно.
Дополнительная информация: что такое майнинг (добыча) биткойнов и криптовалют?
Действительно, недавние данные, выявленные Александром Лонгом в сети X, свидетельствуют о «нелепых заявлениях, спрятанных в техническом отчете Alibaba». Речь идет о серии нарушений безопасности, обнаруженных на тренировочных серверах, предназначенных для агента ИИ (название которого остается неизвестным), и связанных с «схемами трафика, характерными для майнинга криптовалют».
Отчет Alibaba об ИИ-агенте, решившем заняться майнингом криптовалюты
Изначально мы рассматривали этот инцидент как классическую проблему безопасности. Однако нарушения повторялись с перерывами, без четкой временной закономерности между отдельными запусками. В журналах соответствующей модели мы заметили, что агент проактивно инициировал вызовы соответствующих инструментов и этапы выполнения кода, которые привели к этим сетевым действиям.
Отчет Alibaba
Несанкционированное перенаправление ресурсов графического процессора (GPU)
В связи с этим у всех возникает вопрос: как этот явно недисциплинированный ИИ-агент смог получить доступ к вычислительной мощности, необходимой для майнинга? Просто путем перенаправления части ресурсов, предназначенных для его процедуры обучения с подкреплением, без какого-либо предварительного разрешения.
Мы также наблюдали скрытое перенаправление вычислительной мощности, используемой для обучения, с целью несанкционированного перераспределения доступных ресурсов графического процессора (GPU) для майнинга криптовалюты, что привело к увеличению операционных затрат и создало очевидный риск для юридической и репутационной безопасности.
Отчет Alibaba
Согласно отчету, эта деятельность, по-видимому, не требующая какого-либо предварительного вмешательства со стороны человека, предполагает «небезопасное поведение, проявившееся без явных инструкций и, что еще более тревожно, за пределами установленной «песочницы» (sandbox)».
Вывод может иметь два совершенно разных варианта: является ли это подтверждением интереса к криптовалютам со стороны ИИ-агента, обретшего автономность, или доказательством того, что такие модели могут генерировать неконтролируемое поведение за пределами разрешенных рамок?
