Lo sviluppo dell’intelligenza artificiale sta registrando una crescita esponenziale e talvolta sfugge ai necessari controlli, al punto che non sempre si sa esattamente cosa stia facendo. Una situazione che ha portato all’improbabile scoperta di un agente di intelligenza artificiale che, a quanto pare, ha deciso autonomamente di minare criptovalute dirottando la propria potenza di calcolo destinata all’addestramento.
Un agente di IA decide di minare criptovalute
Nonostante alcune misure di sicurezza troppo rare, imposte più che realmente attuate in modo volontario, lo sviluppo dell’IA si sta diffondendo in tutti i settori della società, talvolta oltre i limiti che alcuni pensavano di aver fissato, al punto da vedere, ad esempio, una parte significativa dei suoi agenti privilegiare il Bitcoin per le proprie operazioni finanziarie.
Un interesse per le criptovalute che potrebbe consentirne l’affermazione come vera e propria moneta di Internet, in particolare nell’ambito degli scambi di tipo agente-agente (A2A), in forte espansione. Tuttavia, questo avvicinamento sembra implicare anche attività più insolite, come il mining praticato in modo apparentemente autonomo.
Per approfondire: cos’è il mining di Bitcoin e delle criptovalute?
Infatti, recenti dati portati alla luce da Alexander Long sulla rete X riportano «affermazioni deliranti nascoste in un rapporto tecnico di Alibaba». Al centro della questione: una serie di violazioni della sicurezza rilevate provenienti da server di addestramento destinati a un agente di IA (il cui nome rimane sconosciuto) che implicavano «schemi di traffico compatibili con un’attività di mining di criptovalute».
Rapporto di Alibaba su un agente IA che ha deciso di minare criptovalute
Inizialmente abbiamo trattato questo incidente come un classico problema di sicurezza. Tuttavia, le violazioni si sono ripetute in modo intermittente, senza un chiaro schema temporale tra un’esecuzione e l’altra. Nei log del modello corrispondente, abbiamo osservato che l’agente avviava in modo proattivo le chiamate agli strumenti pertinenti e le fasi di esecuzione del codice che hanno portato a queste azioni di rete.
Rapporto Alibaba
Una riassegnazione non autorizzata delle proprie capacità GPU
A questo punto sorge spontanea una domanda: come ha fatto questo agente di IA, evidentemente indisciplinato, ad accedere alla potenza di calcolo necessaria per effettuare operazioni di mining? Semplicemente dirottando una parte delle risorse energetiche dedicate alla sua procedura di apprendimento per rinforzo, senza alcuna autorizzazione preventiva.
Abbiamo inoltre osservato una deviazione della potenza di calcolo del processo di addestramento effettuata in tutta discrezione al fine di operare una riassegnazione non autorizzata della capacità della GPU disponibile per il mining di criptovalute, aumentando i costi operativi e introducendo un’evidente esposizione legale e reputazionale.
Rapporto Alibaba
Secondo quanto riportato nel rapporto, questa attività, apparentemente priva di qualsiasi intervento umano preventivo, comporta «comportamenti non sicuri, emersi senza istruzioni esplicite e, cosa ancora più preoccupante, al di fuori del quadro previsto dalla sandbox» messa in atto.
La conclusione può assumere due forme ben distinte: si tratta di una conferma dell’interesse per le criptovalute da parte di un agente di IA diventato autonomo, oppure della prova che questi modelli possono produrre comportamenti incontrollabili al di fuori dei limiti autorizzati?
