O Google Labs anunciou uma grande atualização da sua ferramenta Gemini Pro AI – o modelo de IA de média dimensão que alimenta a versão gratuita do seu chatbot – introduzindo a capacidade de processar até 1 milhão de tokens em pré-visualização. Esta atualização proporciona um “tamanho de contexto” sem precedentes que deixa para trás as ferramentas líderes actuais e a sua capacidade de 128K.
A atualização para o Gemini Pro v1.5 torna-o teoricamente 700% mais poderoso do que o modelo GPT-4 pago da OpenAI e estabelece uma nova referência para a linguística computacional e a aprendizagem automática entre os modelos de linguagem de grande dimensão (LLM).
O valor é “a janela de contexto mais longa de qualquer modelo de base em grande escala”, segundo a Google.
“Até hoje, a maior janela de contexto do mundo para um modelo linguístico de grande escala disponível publicamente era de 200 000 tokens. Conseguimos aumentá-la significativamente, chegando a 1 milhão de tokens de forma consistente”, partilhou a equipa do Google Labs.
Com esta funcionalidade, o Gemini Pro seria mais capaz do que a versão mais poderosa da atual linha Gemini – e do que qualquer outro LLM atualmente disponível. No entanto, este contexto foi colocado online para fins de teste, enquanto a próxima versão estável do Gemini Pro irá lidar com até 128K tokens.
Embora esse lançamento seja uma grande atualização em relação aos 32.000 tokens que o Gemini 1.0 pode processar, os usuários terão que esperar para ver o que 1 milhão de tokens pode fazer.
A mudança é a mais recente ofensiva do Google na corrida para dominar a indústria de IA. Na semana passada, o Gemini Advanced tornou-se o primeiro concorrente credível do ChatGPT Plus. Ao contrário do Anthropic’s Claude, o chatbot da Google é multimodal, apresenta bons resultados em diferentes testes e oferece um conjunto de funcionalidades que o OpenAI não tem.
No entanto, o Gemini Advanced vai ter de se aproximar do GPT-4.5 Turbo, que já processa 128.000 tokens.
A versatilidade do Gemini 1.5 foi demonstrada através de várias demonstrações. A Google afirmou que “pode processar grandes quantidades de informação de uma só vez – incluindo 1 hora de vídeo, 11 horas de áudio, bases de código com mais de 30.000 linhas de código ou mais de 700.000 palavras”.
“Na nossa investigação, também testámos com sucesso até 10 milhões de tokens”, acrescentou a equipa.
Uma falha: Os modelos Gemini não podem analisar ficheiros PDF, uma falha que o TCN apontou na sua comparação entre o Gemini e o ChatGPT.
A “mistura de especialistas” veio para ficar
Outra diferença entre o Gemini 1.5 e as suas versões anteriores é a utilização da Mixture of Experts, a mesma tecnologia que a Mistral AI utilizou para criar o seu modelo mais leve. O modelo da Mistral era suficientemente potente para vencer o GPT 3.5 e saltar para os escalões superiores dos melhores LLMs de código aberto.
“A Mistral of Experts encaminha o seu pedido para um grupo de redes neurais ‘especializadas’ mais pequenas para que as respostas sejam mais rápidas e de melhor qualidade”, partilhou a Google no seu anúncio, dizendo que isto garante que as respostas não são apenas mais rápidas, mas também de melhor qualidade.
Tal como o Mistral, a Google conseguiu fazer brilhar o seu modelo. O Gemini 1.5 Pro mostrou um desempenho superior em vários benchmarks em comparação com o Gemini Ultra 1.0, sugerindo um futuro promissor para os LLMs da Google.
“Mostra melhorias dramáticas em várias dimensões e o 1.5 Pro atinge uma qualidade comparável à do 1.0 Ultra, utilizando menos computação”, afirmou Sundar Pichai, CEO da Google, num blogue hoje publicado.
O anúncio não forneceu um calendário para o lançamento do Gemini Advanced 1.5. Entretanto, a OpenAI está a desenvolver ativamente o GPT-5. Os recursos aprimorados de manipulação de tokens do Gemini ajudarão a fortalecer a posição do Google na corrida armamentista de IA.
