La AMD Instinct MI325X llegará con hasta 288 GB de memoria HBM3E en sistemas capaces de mover LLM de hasta 1 billón de parámetros

En este Computex 2024, AMD ha dejado ver las primeras pinceladas de la que será su nuevo buque insignia en el pujante mercado de tarjetas aceleradoras para IA. La AMD Instinct MI325X.

Esta AMD Instinct MI325X utiliza la misma arquitectura CDNA 3 de la AMD Instinct MI300X, tarjeta tope de gama de AMD para tareas de cómputo e inteligencia artificial. La principal diferencia llega con la adopción de la memoria HBM3E, un salto de rendimiento y capacidad respecto a la HBM3 que integra la AMD Instinct MI300X y que también ofrece un ancho de banda superior.

En su configuración más potente, esta tarjeta podrá ofrecer hasta 288 GB de memoria, el doble que su predecesora, junto a un ancho de banda un 30% superior para alcanzar la friolera de 6 TB por segundo.

Su lanzamiento está previsto para el último trimestre de este año 2024, por lo que la veremos entre los meses de octubre y diciembre.

AMD promete una mejora de rendimiento y prestaciones respecto de la competencia, la NVIDIA H200 (que también utiliza memorias HBM3e), en concreto, con el doble de memoria, 30% más de ancho de banda, 30% más potencia de pico en procesamiento FP16 y el mismo aumento en FP8..

En cuanto a su rendimiento, AMD promete que una única plataforma MI325X Instinct formada por 8 de estas tarjetas será capaz de manejar modelos de lenguaje de IA de hasta 1 billón de parámetros.

Estos servidores con 8 tarjetas son capaces de alcanzar cifras de potencia máxima de 10,4 PETAFLOPS, con 2,3 TB de memoria HBM3E y un ancho de banda de AMD Infinity Fabric de 896 GB/s entre tarjetas.

Más adelante, de cara al año 2025, AMD tiene planificado el lanzamiento de la nueva arquitectura AMD CDNA 4 con más capacidad de cómputo y memoria más rápida. Estará fabricada en 3 nanómetros con la misma capacidad de memoria que el modelo recién presentado y soporte para nuevos tipos de datos en FP4 y FP6.  Esta nueva GPU se integrará en las AMD Instinct MI350

Será en 2026 cuando llegue una arquitectura aún más avanzada que la compañía denomina AMD CDNA Next de nueva generación. Habrá que esperar todavía para saber si se denomina CDNA 5 o si se estrena una nueva nomenclatura.

Lo que sí que sabemos es que esta arquitectura de próxima generación se estrenará las AMD Instinct MI400 Series en 2026.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!