La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200

La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200

por Antonio Delgado 3

AMD ha desvelado su nueva aceleradora para tareas de Inteligencia Artificial en servidores y centros de datos especializados, la AMD Instinct MI325X.

Este modelo está basado en la arquitectura AMD CDNA 3 y cuenta con la friolera de 256 GB de memoria HBM3E de última generación para conseguir un ancho de banda de 6 TB/s. Esta capacidad de memoria le permitirá cargar directamente modelos de lenguaje muy grandes sin tener que acceder a almacenamiento no volátil, mucho más lento.

En total, esta GPU ofrece 304 unidades de cómputo

Geeknetic La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200 1

Según los datos que ha desvelado AMD, la nueva AMD Instinct MI325X supera en rendimiento a la NVIDIA H200 con arquitectura Hopper en sus pruebas con LLM como Mistral 7B o LLaMa 3.1 70B. No obstante, no hay que olvidar que su sucesora, la NVIDIA B200 con arquitectura Blackwell, está a la vuelta de la esquina.

Geeknetic La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200 2

Geeknetic La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200 3

La plataforma nativa de estas GPU de AMD está formada por ocho MI325X funcionando a la vez con un total de 2 TB de memoria HBM3E y 48 TB de ancho de banda agregado. Su potencia alcanzará los 20,9 PFLOTPS en FP16.

Geeknetic La aceleradora de IA AMD Instinct MI325X promete más rendimiento que la NVIDIA H200 4

Las AMD Instinct MI325X llegarán a lo largo de los tres primeros meses del año 2025 integradas en servidores de Lenovo, Eviden, HP, Gigabyte, Dell y SuperMicro.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!

Redactor del Artículo: Antonio Delgado

Antonio Delgado

Ingeniero Informático de formación, redactor y analista de hardware en Geeknetic desde 2011. Me encanta destripar todo lo que pasa por mis manos, especialmente lo más novedoso en hardware que recibimos aquí para hacer reviews. En mi tiempo libre trasteo con impresoras 3d, drones y otros cachivaches. Para cualquier cosa aquí me tienes.

Comentarios y Opiniones ¿Qué opinas? ¿Alguna pregunta?
  1. Usuario Anónimo
    #1 Anónimo570 11/10/2024 12:24:42

    uuauau AMD acaba de dar la estocad FINAL A INTEL en todos los sectores, Portatiles, PC y servidores.
    Es muy posible que intel tenga que vender sus Fundiciones y Mediatek+Nvidia son los unicos que pueden comprarla.
    Ahora mismo en los foros internacionales de tecnologia se estan preguntando que ha pasado en INTEL para que durante 3 años este por detras de AMD y Apple.

    Responder
    • Usuario Anónimo
      #2 Anónimo175respondiendo a Anónimo570 11/10/2024 13:23:07

      Esos "foros internacionales de tecnología" de los que siempre hablas son tus muñecas?

      Responder
    • Usuario Anónimo
      #4 Anónimo570respondiendo a Anónimo175 21/11/2024 18:05:28

      Segun tengo entendido intel ha suspendido ya 2 proyectos de servidores de inteligencia artificial va a despedir a 15.000 empleados tiene los intel core 13 y 14 que se queman y nadie quiere comprar. Ademas los intel Core Ultra 200 rinde menos que los de hace 2 años por eso todo el mundo esta comprando AMD ZEN 5 9000x3d que se han agotado desde la primera semana.
      INTEL sois el RIDICULO

      Responder

ESCRÍBE UN NUEVO COMENTARIO ¿Qué opinas sobre este tema? ¿Alguna pregunta?

Se enviará como Anónimo.

Nitro V16 Q4 2024 Banner