Nuevas NVIDIA H200 con arquitectura Hopper y 141 GB de memoria HBM3e para supercomputación

Lo nuevo de NVIDIA para el mercado de supercomputación son la nueva generación de tarjetas gráficas basadas en la arquitectura Hopper, las NVIDIA H200 Tensor Core GPU. Se trata de las primeras gráficas del mercado con memorias HBM3e.

En total, cada una de estas tarjetas aceleradoras incluyen la friolera de 141 GB de este tipo de memoria, consiguiendo 2,4 veces más ancho de banda que la NVIDIA A100, permitiendo doblar la velocidad de inferencia en modelos de IA como LLAMA 2, pasando a 70.000 millones de parámetros, respecto de las NVIDIA H100 basadas en la misma arquitectura.

Para sacarles todo el provecho, NVIDIA ha desvelado también su plataforma NVIDIA HGX H200 dotados de cuatro u ocho GPUs H200 trabajando a la vez. Además, para facilitar la implementación de estas nuevas GPUs, los módulos HGX H200 son compatibles a nivel de software y de hardware con las anteriores HGX H100.

Estas H200 también estarán disponibles en el supercomputador NVIDIA GH200 que la compañía anunció en verano. Además, ASUS; Dell, Gigabyte, HP, Lenovo, Supermicro, ASRock y muchas más compañías adoptarán estas nuevas GPUs en sus plataformas actualizando el catálogo previo de supercomputadores Hopper. También las veremos pronto en los servicios que ofrecen plataformas como Amazon AWS, Google Cloud, Azure de Microsof y Oracle Cloud.

Cada superordenador HGX H200 ofrecerá 32 petaflops de cómputo FPP8 para tareas de Deep Learning, con 1,1 TB de memoria HBM3e.

La fecha estimada de su llegada al mercado será durante el segundo trimestre del año 2024.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!