Google Labs ha anunciado una importante actualización de su herramienta de IA Gemini Pro -el modelo de IA de tamaño medio que impulsa la versión gratuita de su chatbot- introduciendo la capacidad de procesar hasta 1 millón de tokens en vista previa. Proporciona un «tamaño de contexto» sin precedentes que deja en la cuneta a las herramientas líderes actuales y su capacidad de 128K.
La actualización a Gemini Pro v1.5 lo hace teóricamente un 700% más potente que el modelo GPT-4 de pago de OpenAI, y establece un nuevo punto de referencia para la lingüística computacional y el aprendizaje automático entre los grandes modelos lingüísticos (LLM).
Según Google, se trata de «la ventana de contexto más larga de cualquier modelo fundacional a gran escala».
«Antes de hoy, la ventana de contexto más grande del mundo para un modelo lingüístico de gran tamaño disponible públicamente era de 200.000 tokens. Hemos sido capaces de aumentarla de forma significativa: hasta un millón de tokens de forma consistente», afirma el equipo de Google Labs.
Con esta característica, Gemini Pro sería más capaz que la versión más potente de la gama Gemini actual y que cualquier otro LLM disponible en la actualidad. Sin embargo, este contexto se puso en línea con fines de prueba, mientras que la próxima versión estable de Gemini Pro manejará hasta 128K tokens.
Aunque esta versión supondrá una importante mejora con respecto a los 32.000 tokens que puede procesar Gemini 1.0, los usuarios tendrán que esperar para ver lo que puede hacer con 1 millón de tokens.
El movimiento es la última ofensiva de Google en la carrera por dominar la industria de la IA. La semana pasada, Gemini Advanced se convirtió en el primer competidor creíble de ChatGPT Plus. A diferencia de Claude de Anthropic, el chatbot de Google es multimodal, proporciona buenos resultados en diferentes pruebas y ofrece un conjunto de funciones que OpenAI no tiene.
Gemini Advanced, sin embargo, se pondrá a la altura de GPT-4.5 Turbo, que ya maneja 128.000 tokens.
La versatilidad de Gemini 1.5 quedó patente en varias demostraciones. Google afirmó que «puede procesar grandes cantidades de información de una sola vez: una hora de vídeo, 11 horas de audio, bases de código con más de 30.000 líneas de código o más de 700.000 palabras».
«En nuestra investigación, también hemos probado con éxito hasta 10 millones de tokens», añadió el equipo.
Una deficiencia: Los modelos de Gemini no pueden analizar archivos PDF, un defecto que TCN señaló en su comparación entre Gemini y ChatGPT.
La «mezcla de expertos» ha llegado para quedarse
Otra diferencia entre Gemini 1.5 y sus versiones anteriores es el uso de la Mezcla de Expertos, la misma tecnología que utilizó Mistral AI para hacer su modelo más ligero. El de Mistral era lo bastante potente como para vencer a GPT 3.5 y situarse entre los mejores LLM de código abierto.
«(Mixture of Experts) dirige tu solicitud a un grupo de redes neuronales ‘expertas’ más pequeñas para que las respuestas sean más rápidas y de mayor calidad», explicaba Google en su anuncio, afirmando que esto garantiza que las respuestas no sólo sean más rápidas, sino también de mayor calidad.
Al igual que Mistral, Google fue capaz de hacer brillar su modelo. Gemini 1.5 Pro mostró un rendimiento superior en varias pruebas de referencia en comparación con Gemini Ultra 1.0, lo que sugiere un futuro prometedor para los LLM de Google.
«Muestra mejoras dramáticas a través de una serie de dimensiones y 1.5 Pro logra una calidad comparable a 1.0 Ultra, mientras que utiliza menos computación», dijo hoy el CEO de Google, Sundar Pichai, en una publicación de blog.
El anuncio no proporciona un calendario para el lanzamiento de Gemini Advanced 1.5. Mientras tanto, OpenAI está desarrollando activamente GPT-5. Las capacidades mejoradas de gestión de tokens de Gemini ayudarán a reforzar la posición de Google en la carrera armamentística de la IA.
