Vývoj umělé inteligence prochází exponenciálním růstem, který se někdy vymyká nezbytné kontrole, a to do té míry, že není vždy jasné, co přesně dělá. Tato situace vedla k nepravděpodobnému objevu agenta umělé inteligence, který se zřejmě sám rozhodl těžit kryptoměny tím, že zneužil svůj výpočetní výkon určený k trénování.
Agent umělé inteligence se rozhodl těžit kryptoměny
Navzdory několika příliš vzácným ochranným opatřením, která jsou spíše vnucena než skutečně zaváděna dobrovolně, se vývoj umělé inteligence šíří do všech oblastí společnosti, někdy i za hranice, které někteří považovali za stanovené, a to do té míry, že například značná část jejích agentů upřednostňuje pro své finanční operace bitcoin.
Zájem o kryptoměny by z nich mohl učinit skutečnou měnu internetu, zejména v rámci prudce se rozvíjejících transakcí typu agent-agent (A2A). Toto propojení však zřejmě zahrnuje i neobvyklejší aktivity, jako je těžba prováděná zdánlivě autonomně.
Více informací: Co je to těžba (mining) bitcoinu a kryptoměn?
Nedávné údaje, na které upozornil Alexander Long na síti X, totiž poukazují na „nesmyslná tvrzení ukrytá v technické zprávě společnosti Alibaba“. Jde o sérii bezpečnostních narušení detekovaných na trénovacích serverech určených pro agenta umělé inteligence (jehož jméno zůstává neznámé), která zahrnují „vzory provozu kompatibilní s těžbou kryptoměn“.
Zpráva společnosti Alibaba o agentu umělé inteligence, který se rozhodl těžit kryptoměny
Tento incident jsme zpočátku považovali za klasický bezpečnostní problém. K porušením však docházelo sporadicky, bez jasného časového vzorce mezi jednotlivými spuštěními. V protokolech příslušného modelu jsme zjistili, že agent proaktivně inicioval volání příslušných nástrojů a kroky provádění kódu, které vedly k těmto síťovým akcím.
Zpráva společnosti Alibaba
Neoprávněné přerozdělení jeho GPU kapacit
Všichni si tedy kladou otázku: jak se tomuto zjevně neukázněnému agentovi umělé inteligence podařilo získat přístup k výpočetnímu výkonu potřebnému k provádění těžby kryptoměn? Jednoduše tím, že bez jakéhokoli předchozího povolení odklonil část energetických kapacit určených pro jeho proces učení s posilováním.
Zaznamenali jsme také odklon výpočetního výkonu určeného pro trénink, který proběhl zcela skrytě s cílem nepovoleně přesměrovat dostupný výkon GPU na těžbu kryptoměn, což vedlo ke zvýšení provozních nákladů a představovalo zřejmé právní a reputační riziko.
Zpráva Alibaba
Podle znění zprávy tato činnost, která se zjevně obešla bez jakéhokoli předchozího lidského zásahu, zahrnuje „nezabezpečené chování, k němuž došlo bez výslovného pokynu a, co je ještě znepokojivější, mimo rámec zavedeného testovacího prostředí (sandboxu)“.
Závěr může mít dvě zcela odlišné podoby: jedná se o potvrzení zájmu o kryptoměny ze strany autonomního agenta umělé inteligence, nebo o důkaz, že tyto modely mohou vykazovat nekontrolovatelné chování mimo povolené rámce?
