Podem os modelos de inteligência artificial descentralizados e de código aberto competir com os modelos proprietários bem financiados, como o poderoso GPT-4 da OpenAI? A pergunta frequente alimentou um debate animado no Twitter depois de um antigo investigador de IA da Google ter escolhido um lado.
Arnaud Benard, cofundador da Galileo AI, lançou o desafio, dizendo: “Se acham que os modelos de código aberto vão vencer o GPT-4 este ano, estão enganados”. Citou o talento e os recursos da OpenAI e a natureza robusta do GPT-4 como um produto que vai além de um LLM, e afirmou que os projectos de código aberto podem ter dificuldade em passar de desafiantes a campeões de IA.
se acham que os modelos de código aberto vão vencer o gpt-4 este ano, estão enganados.
trabalhei em laboratórios de investigação de IA de topo (google ai) e construí bibliotecas de código aberto com mais de 5 milhões de downloads mensais.
o gpt-4 tem um ano e, até à data, nenhum modelo o iguala, eis porquê:
1. talento – a openai recrutou…
– Arnaud Benard (@arnaudai) 1 de janeiro de 2024
Não é de surpreender que o tweet de Benard tenha suscitado reacções mistas, que vão desde o apoio fervoroso ao desacordo feroz.
Ryan Casey, um popular entusiasta da IA que escreve o boletim informativo “Beyond The Yellow Woods”, ofereceu uma visão mais otimista sobre o potencial da IA de código aberto, afirmando: “O código aberto vai igualar ou superar [os modelos privados] este ano”, de acordo com os seus cálculos. “Se houver procura, haverá inovação. “
Eh, acho que o código aberto vai igualar ou superar este ano. pic.twitter.com/y99qKJ2iKF
– Ryan Casey (@ryansweb) 1 de janeiro de 2024
Por outro lado, o estratega de IA Jeremi Traguna observou que “os modelos da OpenAI estão sempre em movimento”, acrescentando que “os modelos de código aberto terão dificuldade em manter a velocidade para atingir um alvo em movimento no momento em que o alvo está em posição de ser atingido”. Por outras palavras, enquanto os modelos de código aberto podem estar a alcançar o GPT-3.5 na era do GPT-4, pode haver um GPT-5 quando tivermos LLMs generalistas comparáveis ao GPT-4.5 Turbo.
Jon Howells, analista tecnológico, acredita que os recursos não são a única norma que separa os LLMs de código aberto dos de código fechado.
“A Mistral dispõe de grandes fundos, de uma grande equipa e lançou recentemente um modelo de código aberto GPT-3.5”, escreveu. “Eles ou um equipamento semelhante lançarão um modelo de código aberto de nível GPT-4 até o final deste ano.”
Mistral AI, uma startup francesa, ganhou reconhecimento após o lançamento de seu Mixtral LLM, que oferece melhor desempenho em relação ao GPT-3.5 em muitos casos de uso.
Em uma discussão em tópico, o cofundador da Nous Research, “Teknium”, fez uma observação importante, mas filosófica. “Cada aumento de capacidade no SO (Código Aberto) é uma coisa permanente que nunca pode ser retirada do mundo e que pode ser usada de forma fiável para sempre”, disse ele. Basicamente, desde que haja algum avanço na tecnologia de IA de código aberto, nenhuma empresa pode restringir o seu acesso.
Eu apresentei o together e o mistral, nenhuma das partes está zangada com isso. Mas neste post, ele tinha dito que nenhum modelo de SO vai bater o GPT-4, mas o GPT-4 será notícia velha – provavelmente este ano – não demorou muito para bater o 3.5, e o CEO da Mistral disse que planeia lançar um Open de nível GPT4…
– Teknium (e/λ) (@Teknium1) 1 de janeiro de 2024
Aberto ou fechado? Um debate interminável
O debate entre código aberto e código fechado faz lembrar as primeiras batalhas de sistemas operativos entre o Windows e o Linux. Santiago Pino, da ML School, escreveu que os modelos de IA proprietários podem conquistar os consumidores em geral, como aconteceu com o Windows, mas que o software de código aberto proporciona personalização e controlo que podem ser extremamente úteis para os utilizadores empresariais.
Pino destacou como muitas empresas começam a experimentar o ChatGPT, mas depois migram para modelos de código aberto, que podem ser ajustados e personalizados para suas necessidades específicas e requisitos de conformidade de dados. As soluções de código aberto evitam a dependência do fornecedor e proporcionam transparência, disse ele.
“Os modelos fechados e proprietários podem conquistar as pessoas, mas a maioria das empresas não quer enviar os seus dados para a Microsoft ou para a Google. Querem ter controlo. Os modelos de código aberto são a resposta”, disse ele num tweet dias antes de o tópico de Bernard se tornar viral.
Os modelos de código aberto vão destruir o ChatGPT e o Gemini.
A história dos modelos de linguagem de grande porte de código aberto é a história do Linux. O Windows e o Mac conquistaram os consumidores, mas o Linux tornou-se o sistema operativo da Internet.
O mesmo acontecerá com o ChatGPT, o Gemini e os modelos de código aberto. Fechado,… pic.twitter.com/fdmS1VNtqf
– Santiago (@svpino) December 22, 2023
Este tipo de opinião foi partilhado no debate sobre o tweet de Bernard pela Sciumo Inc., uma empresa de desenvolvimento de software, que sublinhou o potencial de nicho dos modelos de código aberto: “(Os modelos de código aberto) vão competir onde interessa: problemas específicos do domínio com dados específicos do domínio e conhecimentos especializados que a (OpenAI) não tem.”
Furkan Gözükara, um engenheiro informático conhecido pelo seu canal de YouTube SECourses, também está entre os que têm uma posição mais matizada. Em declarações ao TCN, concordou com Bernard, dizendo que “só em tarefas específicas os LLM de código aberto passarão o OpenAI”.
Gözükara dá o exemplo de uma empresa que “treina LLM nos (seus) próprios documentos”. Sim, o OpenAI tem a capacidade de personalizar os GPTs com base em instruções e documentos específicos, mas o manuseamento de dados sensíveis a terceiros é sempre uma preocupação. Essa preocupação foi recentemente validada quando foi revelado que os GPTs personalizados forneciam dados sensíveis a utilizadores terceiros.
Yan Lecun, diretor de desenvolvimento de IA da Meta e um acérrimo defensor do código aberto, afirmou repetidamente que “os modelos de base de IA de código aberto vão acabar com os modelos de IA fechados e proprietários”. O Google, outro gigante da IA, também reconhece a ameaça representada pela IA de código aberto: “Os modelos de código aberto são mais rápidos, mais personalizáveis, mais privados e mais capazes”, disse um memorando do Google que vazou em 2023.
Resta saber se os modelos de código aberto irão igualar ou superar o GPT-4 e as iterações futuras este ano. No entanto, as perspectivas dos especialistas de ambos os lados revelam uma tensão intrigante. Os modelos de código fechado podem ter uma vantagem em termos de recursos e de rapidez de iteração, mas as ferramentas de código aberto estão a evoluir rapidamente, oferecendo capacidades permanentes e personalizáveis. Para já, a comunidade de IA pode assistir ao desenrolar da competição e desfrutar dos benefícios da utilização da melhor tecnologia disponível.
