Inicio » Sin categorizar » Raja Koduri lidera junto a SanDisk la creación de memoria HBF de 4 TB para IA

Raja Koduri lidera junto a SanDisk la creación de memoria HBF de 4 TB para IA

por ytools
0 comentario 0 vistas

Raja Koduri, exarquitecto jefe de gráficos en Intel, vuelve a escena con una nueva misión: revolucionar la memoria para GPUs enfocadas en inteligencia artificial.
Raja Koduri lidera junto a SanDisk la creación de memoria HBF de 4 TB para IA
Tras dejar Intel en 2023, se suma al consejo técnico de SanDisk para liderar el desarrollo de High Bandwidth Flash (HBF), una tecnología pensada para superar los límites de la actual HBM.

SanDisk, conocida mundialmente por sus memorias flash y SSDs, apunta ahora al mercado de alto rendimiento en IA. Con la experiencia de Koduri, la meta es ambiciosa: hasta 4 TB de VRAM por GPU, es decir, entre 8 y 16 veces más que lo que ofrece la HBM actual, manteniendo el mismo coste.

La HBM lleva tiempo mostrando señales de estancamiento. Ahí entra HBF, que gracias a la tecnología TSV (Through-Silicon Vias) permite apilar chips de memoria para aumentar enormemente la capacidad sin sacrificar ancho de banda. Ocho stacks de HBF pueden ofrecer 4 TB de VRAM con rendimiento competitivo.

“Con HBF cambiamos el enfoque: ya no se trata solo de ancho de banda por watt, sino de capacidad por dólar, watt y milímetro cuadrado”, explicó Koduri. En tareas de IA como inferencia o entrenamiento de modelos enormes, la cantidad de memoria importa más que la latencia.

SanDisk no solo quiere desarrollar HBF, también pretende convertirla en un estándar abierto para facilitar su adopción por toda la industria. Koduri, con su historial en ecosistemas tecnológicos y colaboración con fabricantes de GPU, es una pieza clave para lograrlo.

Además, HBF tiene potencial para impulsar la IA en el edge, permitiendo ejecutar modelos complejos directamente en dispositivos locales y en tiempo real, sin depender de la nube. Eso abre la puerta a nuevas aplicaciones inteligentes en todos los sectores.

Muchos dudan si SanDisk puede competir en este nivel. Pero con Koduri al mando, parece que la empresa va en serio. Ya no se trata solo de almacenar datos, sino de liderar la evolución del hardware para IA.

También te puede interesar

Deja un comentario