La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200

AMD ha desvelado su nueva aceleradora para tareas de Inteligencia Artificial en servidores y centros de datos especializados, la AMD Instinct MI325X.

Este modelo está basado en la arquitectura AMD CDNA 3 y cuenta con la friolera de 256 GB de memoria HBM3E de última generación para conseguir un ancho de banda de 6 TB/s. Esta capacidad de memoria le permitirá cargar directamente modelos de lenguaje muy grandes sin tener que acceder a almacenamiento no volátil, mucho más lento.

En total, esta GPU ofrece 304 unidades de cómputo

Según los datos que ha desvelado AMD, la nueva AMD Instinct MI325X supera en rendimiento a la NVIDIA H200 con arquitectura Hopper en sus pruebas con LLM como Mistral 7B o LLaMa 3.1 70B. No obstante, no hay que olvidar que su sucesora, la NVIDIA B200 con arquitectura Blackwell, está a la vuelta de la esquina.

La plataforma nativa de estas GPU de AMD está formada por ocho MI325X funcionando a la vez con un total de 2 TB de memoria HBM3E y 48 TB de ancho de banda agregado. Su potencia alcanzará los 20,9 PFLOTPS en FP16.

Las AMD Instinct MI325X llegarán a lo largo de los tres primeros meses del año 2025 integradas en servidores de Lenovo, Eviden, HP, Gigabyte, Dell y SuperMicro.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!