AMD ha presentado su nuevo chip acelerador de IA MI300X, un desafío directo al H100 de NVIDIA, en un intento de aprovechar su éxito en el frenesí de la industria por la IA. La última incorporación del gigante tecnológico a su arsenal de chips de IA tiene como objetivo desbaratar el dominio de NVIDIA en el mercado de los aceleradores de IA.
Diseñado explícitamente para tareas de IA, el MI300X cuenta con hasta 192 GB de memoria, lo que lo convierte en la opción ideal para ejecutar modelos de gran tamaño, como los LLM. La elección por parte de AMD de una configuración de memoria elevada es estratégica, ya que facilita la implantación de modelos de gran tamaño. El entrenamiento de la IA requiere una enorme potencia de cálculo, pero, sobre todo, necesita mucha memoria vRAM para almacenar la información durante las sesiones de entrenamiento -por eso algunas GPU de juegos pueden ser buenas para minar criptomonedas pero no son realmente excelentes para tareas de IA-.
Además, la arquitectura subyacente del chip se ha diseñado para soportar sin problemas las cargas de trabajo de IA generativa. La CEO de AMD, Lisa Su, señala que la última generación de modelos de vanguardia puede encontrar fácilmente un hogar en los 192 GB de HBM3 (memoria de gran ancho de banda) del MI300X.
«Con toda esa capacidad de memoria adicional, en realidad tenemos una ventaja para los modelos de gran lenguaje porque podemos ejecutar modelos más grandes directamente en la memoria». Lisa Su añade que los usuarios necesitarán menos GPU para realizar las mismas tareas en menos tiempo.
El lanzamiento de este producto se produce en un momento en que la capitalización bursátil de NVIDIA ha alcanzado el billón de dólares. Aunque la capitalización bursátil de AMD no es comparable -sólo supera los 207.000 millones de dólares-, el lanzamiento del MI300X subraya la determinación de AMD de dejar su huella en el creciente panorama de la IA.
Para demostrar aún más su compromiso, AMD ejecutó con éxito el LLM Falcon 40B en el MI300X durante la presentación del chip. Este logro, según Su, supone «la primera vez que un LLM de este tamaño puede ejecutarse íntegramente en memoria».
AMD: un poderoso competidor para Nvidia en el espacio de la IA
En una revelación simultánea, AMD publicó una actualización de RocM, una pila de software para la programación de unidades de procesamiento gráfico (GPU) que supone un sólido contendiente frente al lenguaje CUDA de NVIDIA. El importante ancho de banda de memoria disponible con la MI300X podría convencer a las empresas de adquirir menos GPU, lo que presentaría a AMD como una propuesta de valor convincente, sobre todo para las empresas más pequeñas con cargas de trabajo de IA ligeras o medias.
AMD se ha beneficiado enormemente del auge de la IA, y sus acciones han experimentado una importante subida este año. La subida de la empresa no sólo ha atraído la atención de los inversores, sino que también ha generado comentarios positivos en el sector.
Evolución del precio de las acciones de AMD en 2023. Imagen: Tradingview
¿Puede AMD convertirse en la próxima NVIDIA? Es una decisión difícil, dada la enorme disparidad de su capitalización bursátil. Sin embargo, una cosa es segura: El acelerador de IA MI300X de AMD es una fuerza a tener en cuenta.
En este campo de la IA, no se trata sólo del tamaño del jugador, sino también de la fuerza de su juego. A medida que AMD se acerque al plato, el mundo estará atento para ver si este desvalido puede batear un jonrón.
