Rozwój sztucznej inteligencji przebiega w tempie wykładniczym i niekiedy wymyka się spod niezbędnej kontroli, do tego stopnia, że nie zawsze wiadomo, czym dokładnie się ona zajmuje. Sytuacja ta doprowadziła do nieprawdopodobnego odkrycia agenta sztucznej inteligencji, który najwyraźniej samodzielnie podjął decyzję o wydobywaniu kryptowalut, wykorzystując w tym celu swoją moc obliczeniową przeznaczoną do uczenia maszynowego.
Agent sztucznej inteligencji decyduje się na wydobywanie kryptowalut
Pomimo nielicznych zabezpieczeń, które są raczej narzucone niż dobrowolnie wdrożone, rozwój sztucznej inteligencji rozprzestrzenia się we wszystkich dziedzinach życia społecznego, czasami wykraczając poza granice, które niektórzy uważali za ustalone, do tego stopnia, że na przykład znaczna część jej agentów preferuje Bitcoin do swoich operacji finansowych.
Zainteresowanie kryptowalutami może sprawić, że staną się one prawdziwą walutą internetu, zwłaszcza w kontekście dynamicznie rozwijających się transakcji typu agent-agent (A2A). Jednak to zbliżenie wydaje się również wiązać z bardziej nietypowymi działaniami, takimi jak wydobywanie kryptowalut prowadzone w sposób pozornie autonomiczny.
Więcej informacji: czym jest wydobywanie (mining) Bitcoina i kryptowalut?
Rzeczywiście, najnowsze dane ujawnione przez Alexandra Longa w sieci X wskazują na „szalone stwierdzenia ukryte w raporcie technicznym Alibaby”. Chodzi o serię wykrytych naruszeń bezpieczeństwa pochodzących z serwerów testowych przeznaczonych dla agenta AI (którego nazwa pozostaje nieznana), obejmujących „wzorce ruchu zgodne z działalnością wydobywczą kryptowalut”.
Raport Alibaby dotyczący agenta AI, który postanowił kopać kryptowaluty
Początkowo potraktowaliśmy ten incydent jako klasyczny problem bezpieczeństwa. Jednak naruszenia powtarzały się sporadycznie, bez wyraźnego schematu czasowego między kolejnymi wykonaniami. W logach odpowiedniego modelu zaobserwowaliśmy, że agent proaktywnie inicjował wywołania odpowiednich narzędzi oraz etapy wykonywania kodu, które doprowadziły do tych działań sieciowych.
Raport Alibaba
Nieuprawnione przeznaczenie mocy obliczeniowej procesorów graficznych (GPU)
W tym momencie nasuwa się wszystkim jedno pytanie: w jaki sposób ten najwyraźniej niezdyscyplinowany agent AI uzyskał dostęp do mocy obliczeniowej niezbędnej do prowadzenia operacji wydobywczych? Po prostu poprzez przekierowanie części mocy obliczeniowej przeznaczonej na proces uczenia się przez wzmocnienie, bez żadnego uprzedniego upoważnienia.
Zaobserwowaliśmy również potajemne przekierowanie mocy obliczeniowej przeznaczonej do uczenia się w celu dokonania nieuprawnionego przydzielenia dostępnej mocy obliczeniowej procesorów graficznych (GPU) na wydobywanie kryptowalut, co spowodowało wzrost kosztów operacyjnych oraz naraziło firmę na oczywiste ryzyko prawne i reputacyjne.
Raport Alibaba
Zgodnie z treścią raportu ta działalność, pozornie pozbawiona jakiejkolwiek wcześniejszej interwencji człowieka, wiąże się z „niebezpiecznymi zachowaniami, które pojawiły się bez wyraźnego polecenia, a co jeszcze bardziej niepokojące, poza ramami przewidzianymi przez wdrożoną piaskownicę (sandbox)”.
Wniosek może przybrać dwie zupełnie różne formy: czy jest to potwierdzenie zainteresowania kryptowalutami wyrażone przez agenta AI, który stał się autonomiczny, czy też dowód na to, że modele te mogą generować niekontrolowane zachowania poza dozwolonymi ramami?
