Abraçai-vos: A IA pode levar a humanidade à extinção.
Na terça-feira, centenas de líderes e investigadores da indústria da IA – incluindo executivos da Microsoft, Google e OpenAI – lançaram um aviso preocupante. Afirmam que a tecnologia de inteligência artificial que estão a desenvolver poderá um dia representar um perigo real e presente para a existência da humanidade. Juntamente com os horrores das pandemias e das guerras nucleares, consideram a IA um risco social de magnitude semelhante.
Numa carta publicada pelo Center for AI Safety, os especialistas em IA apresentaram esta declaração caracterizada pela sua brevidade: “Mitigar o risco de extinção da IA deve ser uma prioridade global, a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear.”
É isso, é tudo o que dizem.
Fonte: Center for AI Safety
A declaração pinta a IA como uma ameaça iminente, semelhante a um desastre nuclear ou a uma pandemia global. Mas os signatários, estes magos da indústria tecnológica, não desenvolveram o seu aviso sinistro.
Como se desenrolará exactamente este cenário de fim dos tempos? Quando é que devemos marcar no calendário a chegada dos nossos senhores robôs? Porque é que a IA, uma invenção da inovação humana, se voltaria contra os seus criadores? O silêncio dos arquitectos da inteligência artificial foi retumbante e eles não deram respostas.
De facto, esses líderes da indústria não eram mais informativos do que um chatbot com uma resposta enlatada. No domínio das ameaças globais, a IA parece ter subitamente saltado a fila, ultrapassando as alterações climáticas, os conflitos geopolíticos e até as invasões alienígenas em termos de pesquisas de palavras-chave no Google.
Pesquisas no Google sobre IA, em comparação com outras preocupações globais como a guerra, invasões extraterrestres e alterações climáticas. Imagem: Google
É também de salientar que o director executivo da OpenAI, Sam Altman, tem vindo a insistir na regulamentação nos EUA. Ainda assim, ameaçou deixar a Europa se os políticos do continente continuassem a tentar regulamentar a IA. “Vamos tentar cumprir”, disse Altman num painel na University College London. “Se pudermos cumprir, cumpriremos. E se não conseguirmos, deixaremos de funcionar”.
É justo dizer que Altman voltou atrás alguns dias depois, dizendo que a OpenAI não tinha planos para deixar a Europa. Isto, claro, aconteceu depois de ter tido a oportunidade de falar com os reguladores sobre o assunto numa “semana muito produtiva”.
semana muito produtiva de conversas na europa sobre a melhor forma de regular a IA! estamos entusiasmados por continuar a operar aqui e, claro, não temos planos de sair.
– Sam Altman (@sama) 26 de Maio de 2023
AI é arriscado, mas será que é assim tão arriscado?
Os potenciais perigos da inteligência artificial não passaram despercebidos aos especialistas. Uma carta aberta anterior, assinada por 31 810 apoiantes, incluindo Elon Musk, Steve Wozniak, Yuval Harari e Andrew Yang, apelou a uma pausa no treino de modelos de IA poderosos.
“Estes protocolos devem garantir que os sistemas que aderem a eles são seguros para além de qualquer dúvida razoável”, diz a carta, esclarecendo que “isto não significa uma pausa no desenvolvimento da IA em geral, apenas um passo atrás na perigosa corrida para modelos de caixa negra imprevisíveis cada vez maiores com capacidades emergentes”.
A questão de um potencial Foom da IA (em que uma IA se torna capaz de melhorar os seus próprios sistemas, aumentando as suas capacidades ao ponto de ultrapassar a inteligência humana), tem sido discutida há anos. No entanto, o ritmo acelerado da mudança actual, juntamente com a cobertura substancial dos meios de comunicação social, lançou o debate para a ribalta mundial.
Fonte: Columbia Journalism Review
Isto gerou diversas opiniões sobre o impacto que a IA terá (e não apenas poderá ter) no futuro das interacções sociais.
Alguns imaginam uma era utópica em que a IA e os seres humanos interagem de forma alinhada e o avanço tecnológico reina supremo. Outros acreditam que a humanidade se adaptará à IA, com novos empregos criados em torno da tecnologia, à semelhança do crescimento do emprego que se seguiu à invenção do automóvel. Outros ainda defendem que a IA tem grandes hipóteses de amadurecer e de se tornar incontrolável, constituindo uma verdadeira ameaça para a humanidade.
Até lá, o mundo da IA continua a funcionar normalmente. Fique de olho no seu ChatGPT, no seu Bard ou no seu Siri – eles podem estar a apenas uma actualização de software de governar o mundo. Mas, por enquanto, parece que a maior ameaça da humanidade não são as nossas próprias invenções, mas sim o nosso talento ilimitado para a hipérbole.
