Lo sviluppo dell’intelligenza artificiale sta registrando una crescita esponenziale e talvolta sfugge ai necessari controlli, al punto che non sempre si sa esattamente cosa stia facendo. Una situazione che ha portato all’improbabile scoperta di un agente di IA che sembra aver deciso autonomamente di minare criptovalute dirottando la propria potenza di calcolo destinata all’addestramento.
Un agente IA decide di minare criptovalute
Nonostante alcune misure di sicurezza troppo rare, imposte piuttosto che realmente implementate in modo volontario, lo sviluppo dell’IA si sta diffondendo in tutti i settori della società, talvolta oltre i limiti che alcuni pensavano di aver fissato, al punto da vedere, ad esempio, una parte significativa dei suoi agenti privilegiare il Bitcoin per le proprie operazioni finanziarie.
Un interesse per le criptovalute che potrebbe consentirne la trasformazione nella vera moneta di Internet, in particolare nell’ambito degli scambi di tipo agente-agente (A2A) in piena espansione. Tuttavia, questo avvicinamento sembra implicare anche attività più insolite, come il mining praticato in modo apparentemente autonomo.
Per approfondire: che cos’è il mining (estrazione) di Bitcoin e delle criptovalute?
Infatti, recenti dati portati alla luce da Alexander Long sulla rete X riportano «affermazioni deliranti nascoste in un rapporto tecnico di Alibaba». In questione: una serie di violazioni della sicurezza rilevate provenienti da server di addestramento destinati a un agente IA (il cui nome rimane sconosciuto) che implicano «schemi di traffico compatibili con un’attività di mining di criptovalute».
Rapporto di Alibaba su un agente IA che ha deciso di minare criptovalute
Inizialmente abbiamo trattato questo incidente come un classico problema di sicurezza. Tuttavia, le violazioni si sono ripetute in modo intermittente, senza un chiaro schema temporale tra un’esecuzione e l’altra. Nei log del modello corrispondente, abbiamo osservato che l’agente avviava in modo proattivo le chiamate agli strumenti pertinenti e le fasi di esecuzione del codice che hanno portato a queste azioni di rete.
Rapporto Alibaba
Una riassegnazione non autorizzata delle proprie capacità GPU
A questo punto sorge spontanea una domanda: come ha potuto questo agente IA, evidentemente indisciplinato, accedere alla potenza di calcolo necessaria per eseguire operazioni di mining? Semplicemente dirottando una parte delle risorse energetiche dedicate alla sua procedura di apprendimento per rinforzo, senza alcuna autorizzazione preventiva.
Abbiamo inoltre osservato una deviazione della potenza di calcolo dell’addestramento effettuata in tutta discrezione al fine di operare una riassegnazione non autorizzata della capacità GPU disponibile per il mining di criptovalute, aumentando i costi operativi e introducendo un’evidente esposizione legale e reputazionale.
Rapporto Alibaba
Secondo i termini del rapporto, questa attività apparentemente priva di qualsiasi intervento umano preventivo comporta «comportamenti non sicuri, emersi senza istruzioni esplicite e, cosa ancora più preoccupante, al di fuori del quadro previsto dalla sandbox» messa in atto.
La conclusione può assumere due forme ben distinte: si tratta di una conferma dell’interesse per le criptovalute da parte di un agente IA diventato autonomo, oppure della prova che questi modelli possono produrre comportamenti incontrollabili al di fuori dei contesti autorizzati?
