O desenvolvimento da inteligência artificial está a registar um crescimento exponencial e, por vezes, fora dos controlos necessários, ao ponto de nem sempre se saber exatamente o que ela está a fazer. Uma situação que esteve na origem da improvável descoberta de um agente de IA que aparentemente decidiu, por conta própria, minerar criptomoedas, desviando o seu poder de computação de treino.
Um agente de IA decide minerar criptomoedas
Apesar de algumas salvaguardas demasiado escassas, mais impostas do que verdadeiramente implementadas de forma voluntária, o desenvolvimento da IA propaga-se por todos os domínios da sociedade, por vezes para além dos limites que alguns pensavam ter estabelecido, ao ponto de se verificar, por exemplo, que uma parte significativa dos seus agentes privilegia o Bitcoin para as suas operações financeiras.
Um interesse pelas criptomoedas que poderia permitir torná-las a verdadeira moeda da Internet, nomeadamente no âmbito das transações do tipo agente a agente (A2A), em plena expansão. No entanto, esta aproximação parece também implicar atividades mais invulgares, como a mineração praticada de forma aparentemente autónoma.
Para aprofundar: o que é a mineração de Bitcoin e de criptomoedas?
Com efeito, dados recentes revelados por Alexander Long na rede X dão conta de «declarações delirantes enterradas num relatório técnico da Alibaba». Em causa: uma série de violações de segurança detetadas a partir de servidores de treino destinados a um agente de IA (cujo nome permanece desconhecido) que envolvem «padrões de tráfego compatíveis com uma atividade de mineração de criptomoedas».
Relatório da Alibaba sobre um agente de IA que decidiu minerar criptomoedas
Inicialmente, tratámos este incidente como um problema de segurança clássico. No entanto, as violações repetiram-se de forma intermitente, sem um padrão temporal claro entre uma execução e outra. Nos registos do modelo correspondente, observámos que o agente iniciava proativamente as chamadas às ferramentas relevantes e as etapas de execução de código que conduziram a estas ações de rede.
Relatório da Alibaba
Uma reafectação não autorizada das suas capacidades de GPU
Uma questão surge então na mente de todos: como é que este agente de IA, visivelmente indisciplinado, conseguiu aceder ao poder de computação necessário para realizar operações de mineração? Simplesmente desviando parte das capacidades energéticas dedicadas ao seu processo de aprendizagem por reforço, sem qualquer autorização prévia.
Observámos igualmente um desvio da capacidade de computação do treino, efetuado de forma discreta, com o objetivo de realizar uma reafectação não autorizada da capacidade da GPU disponível para a mineração de criptomoedas, aumentando os custos operacionais e introduzindo uma exposição jurídica e reputacional evidente.
Relatório da Alibaba
De acordo com os termos do relatório, esta atividade aparentemente isenta de qualquer intervenção humana prévia implica «comportamentos inseguros, surgidos sem instrução explícita e, o que é ainda mais preocupante, fora do âmbito previsto pela sandbox» implementada.
A conclusão pode assumir duas formas bem distintas: trata-se de uma confirmação do interesse pelas criptomoedas emitida por um agente de IA que se tornou autónomo, ou da prova de que estes modelos podem produzir comportamentos incontroláveis fora dos limites autorizados?
