AMD aprovechó Hot Chips 2025 para mostrar con todo detalle su nueva serie Instinct MI350, basada en la arquitectura CDNA 4 y fabricada con chiplets 3nm + 6nm.
Son aceleradores pensados para cargas masivas de IA y una apuesta clara para plantarle cara a NVIDIA en el mercado de centros de datos.
El motivo es evidente: los modelos de lenguaje crecen sin parar y exigen más memoria y formatos de datos más eficientes. La respuesta de AMD fue contundente: ampliar memoria y añadir soporte a nuevos formatos. Así, el MI350 es capaz de manejar modelos de más de 4000B parámetros gracias a sus 288 GB de memoria HBM3e y un ancho de banda brutal de hasta 8 TB/s.
La familia se compone de dos versiones. El MI350X es el modelo con refrigeración por aire, 1000 W de consumo y hasta 2.2 GHz. El MI355X está orientado a centros de datos con refrigeración líquida, sube a 1400 W y alcanza los 2.4 GHz. Ambos comparten una cifra impresionante: 185 mil millones de transistores, 8 chiplets de cómputo en 3nm y dos dies de I/O en 6nm.
En memoria no se guardaron nada: ocho pilas de HBM3e entregan 288 GB, acompañadas por 256 MB de Infinity Cache y un interconectado Infinity Fabric de 5.5 TB/s. En rendimiento, el MI355X alcanza hasta 80.5 PFLOPs en FP8 y 20 PFLOPs en FP4/FP6, lo que supone un salto de 4x sobre la generación anterior. En pruebas de inferencia con Llama 3.1 405B, AMD asegura un incremento de 35x frente al MI300.
Otro punto fuerte es la flexibilidad: se puede particionar GPU y memoria, permitiendo correr hasta ocho modelos de 70B parámetros en paralelo. Además, escalan en configuraciones de hasta ocho aceleradores por placa UBB, integrados con CPUs EPYC de 5ª generación y NICs Pensando.
En la comparativa directa con la competencia, AMD presume de 2x en rendimiento FP64 y 1.6x más memoria que el GB200 de NVIDIA, con igualdad en FP8 pero añadiendo nuevos formatos FP6/FP4. Frente al MI300, la diferencia es simplemente abismal.
El MI350 estará disponible en el tercer trimestre de 2025 a través de los socios de AMD. Y para 2026 ya está confirmada la próxima generación MI400. De momento, el MI350 es la carta fuerte de AMD: un acelerador de IA diseñado para la nueva era de modelos con billones de parámetros.