Развитието на изкуствения интелект отбелязва експоненциален растеж и понякога излиза извън необходимия контрол, до такава степен, че не винаги се знае какво точно прави. Тази ситуация доведе до неочакваното откритие на агент с изкуствен интелект, който явно сам е решил да копае криптовалута, като е отклонил изчислителната си мощност, предназначена за обучение.
Агент на изкуствения интелект решава да копае криптовалути
Въпреки няколкото твърде редки предпазни мерки, които по-скоро са наложени, отколкото действително въведени доброволно, развитието на изкуствения интелект се разпространява във всички сфери на обществото, понякога отвъд границите, които някои смятаха, че са установили, до такава степен, че например значителна част от неговите агенти предпочитат биткойна за своите финансови операции.
Интересът към криптовалутите би могъл да ги превърне в истинската валута на интернет, особено в контекста на бързо разрастващите се обмени от тип „агент към агент“ (A2A). Въпреки това, тази тенденция изглежда включва и по-необичайни дейности, като например майнингът, извършван на пръв поглед автономно.
За повече информация: какво представлява майнингът на биткойн и криптовалутите?
Всъщност, последните данни, разкрити от Александър Лонг в мрежата X, сочат „абсурдни твърдения, скрити в технически доклад на Alibaba“. Става дума за поредица от нарушения на сигурността, засечени на тренировъчни сървъри, предназначени за ИИ агент (чието име остава неизвестно), включващи „модели на трафик, съвместими с дейност по майнинг на криптовалути“.
Доклад на Alibaba относно ИИ агент, решил да копае криптовалута
Първоначално разгледахме този инцидент като класически проблем със сигурността. Въпреки това нарушенията се повтаряха периодично, без ясна времева последователност между отделните изпълнения. В логовете на съответния модел забелязахме, че агентът проактивно инициираше извиквания на съответните инструменти и етапите на изпълнение на код, които доведоха до тези мрежови действия.
Доклад на Alibaba
Неразрешено пренасочване на неговите GPU ресурси
Тогава в съзнанието на всички възниква един въпрос: как този очевидно недисциплиниран ИИ агент е успял да получи достъп до изчислителната мощност, необходима за извършване на операции по майнинг? Просто като е отклонил част от енергийните ресурси, предназначени за неговата процедура по учене чрез подсилване, без никакво предварително разрешение.
Наблюдавахме също така отклоняване на изчислителната мощност от обучението, извършено напълно тайно, с цел неразрешено пренасочване на наличната GPU мощност за майнинг на криптовалута, което увеличава оперативните разходи и води до очевидни правни и репутационни рискове.
Доклад на Alibaba
Според условията на доклада тази дейност, която на пръв поглед е лишена от каквато и да е предварителна човешка намеса, включва „небезопасни поведения, възникнали без изрична инструкция и, което е още по-тревожно, извън рамките на предвидената „песъчница“ (sandbox)“.
Заключението може да приеме две съвсем различни форми: става ли дума за потвърждение на интереса към криптовалутите, изразено от ИИ агент, придобил автономност, или за доказателство, че тези модели могат да генерират неконтролируемо поведение извън разрешените рамки?
