Os perigos da IA generativa voltaram a ser tema de debates de alto nível entre os líderes mundiais, com o Secretário-Geral das Nações Unidas a juntar-se a um coro crescente de vozes que apelam à regulamentação da tecnologia.
Os alarmes sobre a mais recente forma de inteligência artificial, a IA generativa, são ensurdecedores e são mais altos por parte dos criadores que a conceberam”, afirmou António Guterres numa conferência de imprensa na segunda-feira. “Os cientistas e especialistas apelaram ao mundo para agir, declarando a IA uma ameaça existencial para a humanidade a par do risco de guerra nuclear. “
Temos de levar estes avisos a sério”, afirmou o Secretário-Geral da ONU.
Os comentários de Guterres surgiram no mesmo dia em que a ONU divulgou um relatório, “Integridade da informação nas plataformas digitais”, que sublinhou a necessidade de uma utilização responsável da IA e alertou para a utilização de deepfakes em zonas de conflito.
Também hoje, o Parlamento Europeu aprovou o que está a descrever como “a primeira legislação de IA do mundo”.
Fazer história moldando o nosso futuro.
É este o objetivo da votação inovadora de hoje sobre a primeira legislação mundial em matéria de AI
Trata-se de a Europa assumir a liderança na inovação digital. pic.twitter.com/jICNwcX9hy
– Roberta Metsola (@EP_President) 14 de junho de 2023
Embora a inteligência artificial seja uma preocupação crítica para Guterres, o Secretário-Geral disse que o advento da IA não deve distrair dos danos que a tecnologia digital já está a causar em todo o mundo, dado o aumento do discurso de ódio e da desinformação online.
“A proliferação do ódio e das mentiras no espaço digital está a causar graves danos globais agora”, disse ele. Está a ameaçar a democracia e os direitos humanos. Está a minar a saúde pública e a ação climática, agora”.
Guterres disse que criaria e nomearia membros para um conselho consultivo de IA para lidar com iniciativas relacionadas à IA. O conselho incluiria especialistas em inteligência artificial e cientistas da ONU da União Internacional de Telecomunicações (UIT) e da Organização Educacional, Científica e Cultural (UNESCO).
O Secretário-Geral disse ainda que seria a favor de uma agência de inteligência artificial inspirada na Agência Internacional de Energia Atómica.
Fundada em 1957, a Agência Internacional da Energia Atómica (AIEA) é um organismo das Nações Unidas encarregado de supervisionar as actividades nucleares mundiais.
“A vantagem da AIEA é que é uma instituição muito sólida, baseada no conhecimento, e ao mesmo tempo, ainda que limitada, tem algumas funções reguladoras”, disse Guterres. “Por isso, acredito que este é um modelo que pode ser muito interessante”.
O CEO da OpenAI, Sam Altman, ao testemunhar perante a Comissão do Senado dos EUA para o Poder Judiciário, apelou de forma semelhante à criação de um gabinete governamental encarregado de estabelecer normas para o desenvolvimento da inteligência artificial.
“Eu criaria uma nova agência que licenciaria qualquer esforço acima de uma certa escala de capacidades, e que poderia retirar essa licença e garantir o cumprimento das normas de segurança”, disse Altman, acrescentando que a futura agência deveria exigir auditorias independentes de qualquer tecnologia de IA.
Mas embora o Secretário-Geral seja a favor de uma nova agência internacional, ele reconheceu a falta de investimento da ONU na administração pública, o que significa que qualquer ação exigiria a iniciativa dos Estados membros e a boa vontade das partes envolvidas.
“Hoje, sentimos como é difícil para os Estados e para as organizações internacionais competir, do ponto de vista científico e técnico, com as plataformas que, pelo meio, adquiriram um enorme potencial e um enorme conhecimento”, disse Guterres.
Após o lançamento do GPT-4 da OpenAI em março, uma petição online do Future of Life Institute apelou a uma pausa de seis meses no treino dos sistemas de IA. A carta foi assinada por personalidades do sector tecnológico, incluindo o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak.
