NVIDIA Blackwell consigue cuatro veces más rendimiento que la H100 Hopper en MLPerf V4.1

NVIDIA Blackwell consigue cuatro veces más rendimiento que la H100 Hopper en MLPerf V4.1

por Antonio Delgado Actualizado: 18/09/2024

La próxima arquitectura gráfica NVIDIA Blackwell todavía no ha llegado al mercado, pero NVIDIA ya ha querido poner los dientes largos al sector de los servidores de Inteligencia Artificial mostrando los resultados que obtiene esta plataforma en el nuevo MLPerf v4.1.

En concreto, utilizando uno de los LLM (modelos de lenguaje grandes) más pesado y capaz "LLaMa 70B", la arquitectura NVIDIA Hopper ofrece cuatro veces más rendimiento que la NVIDIA H100.

Para conseguirlo, esta nueva arquitectura hace uso de su Transformer Engine de segunda generación junto a los Tensor Cores FP4.

Geeknetic NVIDIA Blackwell consigue cuatro veces más rendimiento que la H100 Hopper en MLPerf V4.1 1

La plataforma Blackwell podrá implementarse en sistemas de hasta 72 GPUs enlazadas con la tecnología NVLink gracias a los switches de la compañía.

En los resultados también hay que destacar el aumento de rendimiento del 27% en inferencia de IA con la GPU NVIDIA H200 con la actual arquitectura "Hopper", una mejora considerable si tenemos en cuenta que el hardware es el mismo y que todo se debe a la evolución de la plataforma y de los controladores yt soporte de NVIDIA.

Se suma así a AMD y a Intel en mostrar resultados de su hardware en tareas de inteligencia artificial para la próxima generación de dispositivos para servidores.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!

Redactor del Artículo: Antonio Delgado

Antonio Delgado

Ingeniero Informático de formación, redactor y analista de hardware en Geeknetic desde 2011. Me encanta destripar todo lo que pasa por mis manos, especialmente lo más novedoso en hardware que recibimos aquí para hacer reviews. En mi tiempo libre trasteo con impresoras 3d, drones y otros cachivaches. Para cualquier cosa aquí me tienes.

Comentarios y opiniones sobre: NVIDIA Blackwell consigue cuatro veces más rendimiento que la H100 Hopper en MLPerf V4.1 ¿Qué opinas? ¿Alguna pregunta?
Nitro V16 Q4 2024 Banner