Um grupo de destacados tecnólogos, investigadores, e outros influenciadores estão a apelar ao OpenAI para carregar no botão de pausa no treino da sua ferramenta artificial, ChatGPT.
Os principais figuras da IA – incluindo Elon Musk, Steve Wozniak e Andrew Yang- assinaram aparentemente uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de sistemas de IA mais potentes que o GPT-4, a versão actual da ferramenta generativa que foi lançada pela primeira vez em Novembro de 2022.
Na carta, os autores afirmam que se a empresa privada não parar de treinar a sua IA para além da actual implementação do GPT4, os “governos” devem forçar a questão.
“Apelamos a todos os laboratórios de IA para que parem imediatamente durante pelo menos 6 meses a formação de sistemas de IA mais poderosos do que o GPT-4. Esta pausa deve ser pública e verificável, e incluir todos os actores-chave. Se tal pausa não puder ser decretada rapidamente, os governos deveriam intervir e instituir uma moratória,” disse a carta.
A carta mostra actualmente mais de 1.100 assinaturas. No entanto, alguns questionaram se todos os signatários com grandes nomes assinaram efectivamente a carta. Nomes notáveis incluem o vencedor do Prémio Turing Yoshua Bengio, Stuart Russell, director do Centro de Sistemas Inteligentes, Emad Mostaque, CEO da Stability AI, e Chris Larsen, co-fundador da Ripple.
Um porta-voz do projecto disse que as primeiras assinaturas tinham sido verificadas duas vezes, mas que a exibição dos nomes tinha sido pausada devido à grande procura.
“Todos os principais signatários da lista foram verificados independentemente”, disse o vice-presidente do Future of Life Institute, Anthony Aguirre, ao TCN. Ele acrescentou: “Fazê-lo para toda a lista (que agora é bem mais de 30.000) excede a nossa capacidade”.
Uma nota no sítio lê-se: “Devido à grande procura, ainda estamos a recolher assinaturas, mas pausando o seu aparecimento na carta para que os nossos processos de veto possam recuperar o atraso”.
Musk, um dos co-fundadores da OpenAI, demitiu-se da direcção em 2018, mas terá investido 100 milhões de dólares no projecto.
A chegada do GPT4 há duas semanas criou tanto a excitação – com alguns a anunciar a sua chegada como mais importante do que o advento do fogo – como o alarme entre as pessoas envolvidas que, sem controlo, poderia aniquilar a humanidade.
A carta afirma que os sistemas de IA com inteligência competitiva humana representam riscos significativos para a sociedade e a humanidade. Defende que o enfoque deveria ser em tornar os sistemas existentes mais precisos, seguros, transparentes, robustos e fiáveis, ao mesmo tempo que se acelera o desenvolvimento de sistemas de administração de IA.
“A humanidade pode desfrutar de um futuro florescente com a IA”, afirmou, observando que “a sociedade fez uma pausa sobre outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazê-lo aqui. Vamos desfrutar de um longo Verão com IA, não nos apressemos a entrar numa queda despreparada”.
Em resposta a um tweet sobre a petição, Musk respondeu: “Desenvolvedores líderes [de inteligência artificial] não vão dar ouvidos a este aviso, mas pelo menos foi dito: “
Os programadores da AGI não terão em conta este aviso, mas pelo menos foi dito
– Elon Musk (@elonmusk) Março 29, 2023
W
OpenAI ainda não respondeu a um pedido de comentários.
