Rozwój sztucznej inteligencji przebiega w tempie wykładniczym i czasami wymyka się niezbędnej kontroli, do tego stopnia, że nie zawsze wiadomo, co dokładnie robi. Sytuacja ta doprowadziła do nieprawdopodobnego odkrycia agenta sztucznej inteligencji, który najwyraźniej samodzielnie podjął decyzję o wydobywaniu kryptowalut, wykorzystując do tego swoją moc obliczeniową przeznaczoną do uczenia maszynowego.
Agent sztucznej inteligencji postanawia wydobywać kryptowaluty
Pomimo nielicznych zabezpieczeń, które są raczej narzucone niż dobrowolnie wdrożone, rozwój sztucznej inteligencji rozprzestrzenia się we wszystkich dziedzinach życia społecznego, czasami wykraczając poza granice, które niektórzy sądzili, że ustalili, do tego stopnia, że na przykład znaczna część jej agentów preferuje Bitcoin do swoich operacji finansowych.
Zainteresowanie kryptowalutami może sprawić, że staną się one prawdziwą walutą internetu, zwłaszcza w kontekście dynamicznie rozwijających się transakcji typu agent-agent (A2A). Jednak to zbliżenie wydaje się wiązać również z bardziej nietypowymi działaniami, takimi jak wydobywanie kryptowalut prowadzone w sposób pozornie autonomiczny.
Więcej informacji: czym jest wydobywanie (mining) bitcoina i kryptowalut?
Rzeczywiście, najnowsze dane ujawnione przez Alexandra Longa w sieci X wskazują na „szalone stwierdzenia ukryte w raporcie technicznym Alibaby”. Chodzi o serię wykrytych naruszeń bezpieczeństwa pochodzących z serwerów testowych przeznaczonych dla agenta AI (którego nazwa pozostaje nieznana), związanych z „wzorcami ruchu zgodnymi z działalnością wydobywczą kryptowalut”.
Raport Alibaby dotyczący agenta AI, który postanowił kopać kryptowaluty
Początkowo potraktowaliśmy ten incydent jako typowy problem bezpieczeństwa. Jednak naruszenia powtarzały się sporadycznie, bez wyraźnego schematu czasowego między poszczególnymi wykonaniami. W logach odpowiedniego modelu zaobserwowaliśmy, że agent proaktywnie inicjował wywołania odpowiednich narzędzi oraz etapy wykonywania kodu, które doprowadziły do tych działań sieciowych.
Raport Alibaba
Nieautoryzowane przekierowanie mocy obliczeniowej procesorów graficznych
Wszyscy zadają sobie zatem pytanie: w jaki sposób ten najwyraźniej niezdyscyplinowany agent sztucznej inteligencji uzyskał dostęp do mocy obliczeniowej niezbędnej do prowadzenia operacji wydobywczych? Po prostu poprzez przekierowanie części mocy obliczeniowej przeznaczonej na proces uczenia się przez wzmocnienie, bez żadnego uprzedniego upoważnienia.
Zaobserwowaliśmy również potajemne przekierowanie mocy obliczeniowej przeznaczonej na proces uczenia się w celu nieuprawnionego przydzielenia dostępnej mocy obliczeniowej procesorów graficznych (GPU) do wydobywania kryptowalut, co zwiększyło koszty operacyjne oraz spowodowało oczywiste ryzyko prawne i reputacyjne.
Raport Alibaba
Zgodnie z treścią raportu ta działalność, pozornie pozbawiona jakiejkolwiek wcześniejszej interwencji człowieka, wiąże się z „niebezpiecznymi zachowaniami, które pojawiły się bez wyraźnej instrukcji i, co jeszcze bardziej niepokojące, poza ramami przewidzianymi przez utworzoną piaskownicę (sandbox)”.
Wniosek może przybrać dwie zupełnie różne formy: czy jest to potwierdzenie zainteresowania kryptowalutami wyrażone przez autonomiczny podmiot oparty na sztucznej inteligencji, czy też dowód na to, że modele te mogą generować niekontrolowane zachowania poza dozwolonymi ramami?
