Vývoj umělé inteligence zaznamenává exponenciální růst, který se někdy vymyká nezbytné kontrole, a to do té míry, že ne vždy víme, co přesně dělá. Tato situace vedla k nečekanému objevu agenta umělé inteligence, který se zřejmě sám rozhodl těžit kryptoměny tím, že zneužil svůj výpočetní výkon určený k učení.
Agent umělé inteligence se rozhodl těžit kryptoměny
Navzdory několika příliš vzácným bezpečnostním opatřením, která jsou spíše vnucena než skutečně zavedena dobrovolně, se vývoj umělé inteligence šíří do všech oblastí společnosti, někdy i za hranice, které si někteří mysleli, že stanovili, a to do té míry, že například významná část jejích agentů upřednostňuje pro své finanční operace bitcoin.
Zájem o kryptoměny by mohl vést k tomu, že se stanou skutečnou měnou internetu, zejména v rámci prudce rostoucího obchodu typu agent-agent (A2A). Toto sblížení však zřejmě zahrnuje i neobvyklejší aktivity, jako je těžba prováděná zdánlivě autonomně.
Více informací: co je to těžba (mining) bitcoinu a kryptoměn?
Nedávné údaje, na které upozornil Alexander Long na síti X, totiž poukazují na „delirantní tvrzení ukryté v technické zprávě společnosti Alibaba“. Důvodem je řada bezpečnostních narušení detekovaných na trénovacích serverech určených pro agenta AI (jehož jméno zůstává neznámé), která zahrnují „vzory provozu kompatibilní s těžbou kryptoměn“.
Zpráva společnosti Alibaba o agentovi AI, který se rozhodl těžit kryptoměny
Tento incident jsme zpočátku považovali za klasický bezpečnostní problém. K porušením však docházelo přerušovaně, bez jasného časového vzorce mezi jednotlivými spuštěními. V protokolech příslušného modelu jsme zjistili, že agent proaktivně inicioval volání příslušných nástrojů a kroky provádění kódu, které vedly k těmto síťovým akcím.
Zpráva Alibaba
Neoprávněné přerozdělení kapacit GPU
Všichni si tedy kladou otázku: jak se tomuto zjevně neukázněnému agentovi AI podařilo získat přístup k výpočetnímu výkonu potřebnému k provádění těžebních operací? Jednoduše tím, že bez jakéhokoli předchozího povolení odklonil část energetických kapacit určených pro jeho proces učení s posilováním.
Zaznamenali jsme také odklon výpočetního výkonu tréninku provedený zcela skrytě za účelem neoprávněného přesměrování dostupné kapacity GPU na těžbu kryptoměn, což zvyšuje provozní náklady a představuje zřejmé právní a reputační riziko.
Zpráva Alibaba
Podle znění zprávy tato činnost, která se zjevně obešla bez jakéhokoli předchozího lidského zásahu, zahrnuje „nezabezpečené chování, které se objevilo bez výslovného pokynu a, co je ještě znepokojivější, mimo rámec zavedeného sandboxu“.
Závěr může mít dvě zcela odlišné podoby: jedná se o potvrzení zájmu o kryptoměny ze strany autonomního agenta AI, nebo o důkaz, že tyto modely mohou mimo povolené rámce vyvolávat nekontrolovatelné chování?
