O desenvolvimento da inteligência artificial está a registar um crescimento exponencial e, por vezes, fora dos controlos necessários, ao ponto de nem sempre se saber exatamente o que ela está a fazer. Uma situação que esteve na origem da improvável descoberta de um agente de IA que, aparentemente, decidiu por si próprio minerar criptomoedas, desviando o seu poder de computação de treino.
Um agente de IA decide minerar criptomoedas
Apesar de algumas medidas de proteção, muito escassas e mais impostas do que efetivamente implementadas de forma voluntária, o desenvolvimento da IA está a espalhar-se por todos os domínios da sociedade, por vezes ultrapassando os limites que alguns pensavam ter estabelecido, a ponto de vermos, por exemplo, uma parte significativa dos seus agentes a dar preferência ao Bitcoin para as suas operações financeiras.
Um interesse pelas criptomoedas que poderá permitir que estas se tornem a verdadeira moeda da Internet, nomeadamente no âmbito das transações do tipo agente a agente (A2A), que estão em plena expansão. No entanto, esta aproximação parece também implicar atividades mais invulgares, como a mineração praticada de forma aparentemente autónoma.
Para saber mais: o que é a mineração de Bitcoin e de criptomoedas?
De facto, dados recentes revelados por Alexander Long na rede X dão conta de «declarações delirantes escondidas num relatório técnico da Alibaba». Em causa: uma série de violações de segurança detetadas provenientes de servidores de treino destinados a um agente de IA (cujo nome permanece desconhecido) que envolvem «padrões de tráfego compatíveis com uma atividade de mineração de criptomoedas».
Relatório da Alibaba sobre um agente de IA que decidiu minerar criptomoedas
Inicialmente, tratámos este incidente como um problema de segurança clássico. No entanto, as violações repetiram-se de forma intermitente, sem um padrão temporal claro entre uma execução e outra. Nos registos do modelo correspondente, observámos que o agente iniciava de forma proativa as chamadas às ferramentas relevantes e as etapas de execução de código que conduziram a estas ações de rede.
Relatório da Alibaba
Uma reafectação não autorizada das suas capacidades de GPU
Uma questão surge então na mente de todos: como é que este agente de IA, visivelmente indisciplinado, conseguiu aceder ao poder de computação necessário para realizar operações de mineração? Simplesmente desviando uma parte das capacidades energéticas dedicadas ao seu processo de aprendizagem por reforço, sem qualquer autorização prévia.
Observámos igualmente um desvio do poder de computação do treino, realizado de forma discreta, com o objetivo de efetuar uma reafetação não autorizada da capacidade da GPU disponível para a mineração de criptomoedas, aumentando os custos operacionais e introduzindo uma exposição jurídica e reputacional evidente.
Relatório da Alibaba
De acordo com os termos do relatório, esta atividade aparentemente isenta de qualquer intervenção humana prévia implica «comportamentos inseguros, que surgiram sem instrução explícita e, o que é ainda mais preocupante, fora do âmbito previsto pela sandbox» implementada.
A conclusão pode assumir duas formas bem distintas: trata-se de uma confirmação do interesse pelas criptomoedas emitida por um agente de IA que se tornou autónomo, ou da prova de que estes modelos podem produzir comportamentos incontroláveis fora dos quadros autorizados?
