As Nações Unidas lançaram um alerta sobre os deepfakes gerados por IA que estão a ser utilizados para espalhar o ódio e a desinformação nas redes sociais. Num relatório divulgado na segunda-feira, “Integridade da informação nas plataformas digitais”, a organização global sublinhou a necessidade de uma utilização responsável da IA.
“Embora tenha um potencial quase inimaginável para enfrentar os desafios globais, existem preocupações sérias e urgentes sobre o potencial igualmente poderoso dos recentes avanços na inteligência artificial – incluindo geradores de imagens e deepfakes de vídeo – para ameaçar a integridade da informação”, disse o relatório da ONU.
A integridade da informação refere-se à exatidão, consistência e fiabilidade da informação, que, segundo as Nações Unidas, está ameaçada pela desinformação, pela desinformação e pelo discurso de ódio.
“Esses riscos se intensificaram ainda mais devido aos rápidos avanços da tecnologia, como a inteligência artificial generativa”, escreveu o secretário-geral das Nações Unidas, Guterres, na introdução do relatório. “Tornou-se claro que a manutenção do status quo não é uma opção.”
A IA geradora é um tipo de programa, normalmente apresentado sob a forma de um chatbot, capaz de gerar texto, imagens ou outros meios de comunicação em resposta a solicitações.
O relatório das Nações Unidas manifestou preocupação com o efeito dos deepfakes e da desinformação gerada por IA em zonas de conflito.
A utilização de discursos de ódio tem sido frequentemente observada como um precursor de crimes atrozes como o genocídio, refere a ONU. O relatório sublinha ainda que a Convenção de 1948 para a Prevenção e Repressão do Crime de Genocídio proíbe qualquer incitamento direto ou público que possa conduzir ao genocídio.
A proliferação do ódio & mentiras no espaço digital está a causar graves danos globais.
Esta ameaça global clara e atual exige uma ação global clara e coordenada.
– @antonioguterres lançando o seu novo relatório sobre a integridade da informação nas plataformas digitais. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Nações Unidas (@UN) 12 de junho de 2023
Todas as partes interessadas devem tomar medidas urgentes e imediatas para garantir o uso seguro, responsável, ético e compatível com os direitos humanos da inteligência artificial e abordar as implicações dos recentes avanços neste campo para a disseminação de desinformação e discurso de ódio”, disse a ONU.
O relatório apela aos proprietários de plataformas digitais para que invistam em sistemas de moderação de conteúdos que utilizem tanto a inteligência humana como a artificial para todas as línguas utilizadas nos países em que operam – e para que tornem transparente a comunicação de conteúdos.
O organismo internacional afirmou que a era da filosofia de Silicon Valley “move fast and break things” tem de acabar e que a privacidade, a segurança e a transparência dos utilizadores são essenciais e devem ser integradas nas novas tecnologias desde o início.
Guterres apontou a próxima Cimeira do Futuro, a realizar em 2024, como uma oportunidade para chegar a acordo sobre soluções multilaterais.
“Os desafios que estamos a enfrentar só podem ser resolvidos através de uma cooperação internacional mais forte”, disse o Secretário-Geral Guterres.
