El bastidor GB200 NVL72 de NVIDIA supera a su competidor, la plataforma AMD Instant MI355X.
El mercado de hardware de IA ha alcanzado un nuevo punto de inflexión.Según los últimos informes, los GB200 NVL72 de NVIDIA, basados en la arquitectura Blackwell, demuestran un rendimiento mucho mejor que su competencia, la plataforma AMD Instinct Mi355x.
Nvidia GB200 NVL72: AMD Instinct MI355X e IA 28 veces superiores
Los datos indican que Nvidia logra un rendimiento hasta 28 veces mejor en cargas de trabajo de inferencia de IA.
La clave de esta brecha radica en el rendimiento de la GPU en el entorno MŽP (Mix of Experts).Mientras que la solución de AMD destaca por su impresionante capacidad de memoria HBM3e, Nvidia optó por lo que llama un "diseño cooperativo extremo".Esta estrategia combina hardware, software y redes de una manera tan optimizada que supera los resultados obtenidos por clústeres similares basados en MI355X con hasta 75 tokens por segundo de GPU.permite lograr.
Te recomendamos nuestra guía de las mejores tarjetas gráficas del mercado.
Eficiencia y rentabilidad (TCO)
Además de la potencia bruta, la diferencia se traduce en economía.Aunque el costo inicial del rack NVL72 es alto, su rendimiento operativo lo convierte en la opción más económica para una planta de IA de 100 MW.Los informes de Morgan Stanley afirman que los márgenes de beneficio para quienes hacen negocios con Nvidia podrían alcanzar el 77,6%, mientras que las plataformas que utilizan hardware AMD podrían enfrentar márgenes negativos debido a un menor costo total de propiedad (TCO) y una menor velocidad de procesamiento por dólar.
Nvidia no sólo vende chips, sino que crea un ecosistema.El rack GB200 NVL72, con 75 GPU conectadas a la quinta generación de NVLink y refrigeración por agua, se erige como referencia para modelos de lenguaje con miles de millones de dimensiones.Aunque AMD sigue siendo una alternativa poderosa, gracias a la implementación de la memoria HBM3e, la ventaja de Nvidia en la implementación de modelos MoE complejos parece haber aumentado la competencia entre los dos sectores de la IA.
