Развитието на изкуствения интелект бележи експоненциален растеж, като понякога излиза извън необходимия контрол, до степен, че не винаги знаем какво точно прави. Тази ситуация доведе до неочакваното откритие на AI агент, който явно сам е решил да копае криптовалута, като отклонява изчислителната си мощност, предназначена за обучение.
Агент на изкуствения интелект решава да копае криптовалути
Въпреки няколкото твърде редки предпазни мерки, които са по-скоро наложени, отколкото доброволно въведени, развитието на изкуствения интелект се разпространява във всички сфери на обществото, понякога отвъд границите, които някои смятаха, че са определили, до такава степен, че например значителна част от неговите агенти предпочитат Bitcoin за своите финансови операции.
Интересът към криптовалутите би могъл да ги превърне в истинската валута на интернет, особено в контекста на бързо разрастващите се обмени от тип агент към агент (A2A). Въпреки това, това сближаване изглежда включва и по-необичайни дейности, като майнинг, практикуван по очевидно автономен начин.
За да разберете повече: какво е майнингът на Bitcoin и криптовалутите?
Всъщност, последните данни, разкрити от Александър Лонг в мрежата X, сочат „абсурдни твърдения, скрити в технически доклад на Alibaba“. Причината: серия от нарушения на сигурността, открити на тренировъчни сървъри, предназначени за ИИ агент (чието име остава неизвестно), включващи „трафик модели, съвместими с дейност по майнинг на криптовалути“.
Доклад на Alibaba относно ИИ агент, решил да копае криптовалута
Първоначално разгледахме този инцидент като класически проблем със сигурността. Въпреки това, нарушенията се повтаряха периодично, без ясен времеви модел между отделните изпълнения. В логовете на съответния модел забелязахме, че агентът проактивно инициираше извиквания на съответните инструменти и стъпки за изпълнение на код, които доведоха до тези мрежови действия.
Доклад на Alibaba
Неразрешено пренасочване на GPU капацитета му
Тогава в съзнанието на всички възниква един въпрос: как този очевидно недисциплиниран ИИ агент е успял да получи достъп до изчислителната мощност, необходима за извършване на минни операции? Просто като е отклонил част от енергийния капацитет, предназначен за процедурата му за усилващо обучение, без никакво предварително разрешение.
Наблюдавахме също така отклоняване на изчислителната мощност от обучението, извършено напълно незабележимо, с цел неразрешено пренасочване на наличната GPU мощност за майнинг на криптовалута, което увеличава оперативните разходи и води до очевидна правна и репутационна експозиция.
Доклад на Alibaba
Според доклада тази дейност, която изглежда не е изисквала предварителна човешка намеса, включва „несигурни поведения, възникнали без изрична инструкция и, което е още по-тревожно, извън рамките на създадения „пясъчник“ (sandbox)“.
Заключението може да приеме две ясно разграничени форми: става ли дума за потвърждение на интереса към криптовалутите, изразено от ИИ агент, станал автономен, или за доказателство, че тези модели могат да генерират неконтролируемо поведение извън разрешените рамки?
