- Samsung revoluciona el sector con la zHBM y la V10 BV-NAND de más de 400 capas para potenciar la IA.
- AIC introduce la memoria de contexto y soluciones de almacenamiento flash compartido para optimizar la inferencia.
- NVIDIA impulsa el ecosistema Storage-Next y las APIs cuFile para eliminar cuellos de botella entre GPU y datos.
Si te interesa el hardware, prepárate porque lo que se ha visto en el Future of Memory and Storage (FMS) es sencillamente una locura. Estamos hablando de un salto evolutivo donde la infraestructura de memoria ya no es un simple complemento, sino el motor principal que permite que la inteligencia artificial no se quede pillada al procesar volúmenes de datos ingentes.
La clave de todo este despliegue es que el cuello de botella ya no está solo en la potencia de cálculo, sino en cómo se mueven los datos entre el almacenamiento y el procesador. Por eso, gigantes como Samsung, NVIDIA y AIC han soltado novedades que rompen con los esquemas tradicionales, apostando por arquitecturas tridimensionales y una integración mucho más estrecha para que la IA vuele.
La apuesta tridimensional de Samsung: zHBM y zNAND-O
Samsung ha dejado claro que quiere seguir mandando en el cotarro con su nueva visión de estructuras 3D. Una de las joyas de la corona es la zHBM, una arquitectura que, en lugar de colocar la memoria al lado del procesador, la apila verticalmente justo encima de los aceleradores de IA. Este movimiento es maestro porque reduce drásticamente la distancia que recorren los bits, logrando que la eficiencia energética se triplique y el rendimiento sea unas ocho veces superior al de la HBM5.
Además, la zHBM es flexible, permitiendo que los clientes metan su propia propiedad intelectual en la capa intermedia, optimizando así el rendimiento según la carga de trabajo. Por otro lado, han presentado la zNAND-O, una solución pensada específicamente para la IA en el borde (edge AI), que minimiza la latencia y mejora la entrada y salida de datos en dispositivos que necesitan procesar información en tiempo real sin depender de la nube.
El hito de las 400 capas: V10 BV-NAND
Si hablamos de densidad, la V10 BV-NAND es el nuevo estándar a batir. Utilizando una técnica de unión de wafers que es primicia en el sector, Samsung ha conseguido apilar más de 400 capas de memoria. Esto no es solo un número para presumir; se traduce en un aumento de la densidad del 58% respecto a la generación anterior, mejorando la velocidad de lectura y escritura para soportar los sistemas de IA más exigentes.
Complementando esto, la hoja de ruta de la compañía incluye el despliegue de HBM4E y HBM5, además de la LPDDR5X-PIM. Esta última es especialmente interesante porque introduce el procesamiento en memoria (PIM), lo que significa que la memoria ya no es un almacén pasivo, sino que puede ejecutar operaciones por sí misma, ahorrando energía y tiempo de transporte de datos.
AIC y la revolución de la memoria de contexto
Desde el lado de la infraestructura de servidores, AIC ha traído conceptos que cambian la jerarquía de memoria. Se centran en la memoria de contexto, una capa flash donde se guarda el contexto precalculado de los modelos (caché KV). Esto evita que las GPU tengan que regenerar la información una y otra vez, recuperándola directamente desde un almacenamiento NVMe compartido.
Para lograrlo, han desplegado hardware como el F2032-G6, un sistema de almacenamiento dual-activo basado en PCIe Gen6. Sus soluciones, que incluyen JBOFs acelerados por DPU y servidores totalmente flash compatibles con CXL, buscan que la ingesta y la inferencia de datos sean procesos fluidos, eliminando cualquier atasco en la tubería de datos de la IA.
NVIDIA y el ecosistema Storage-Next
NVIDIA no se queda atrás y ha lanzado la iniciativa Storage-Next, una alianza con más de 40 lado de proveedores para estandarizar cómo debe comportarse el almacenamiento impulsado por GPU. Una de las novedades más potentes es la liberación del código de las APIs cuFile, que permite que las GPU lean y escriban datos directamente en el almacenamiento sin tener que pasar obligatoriamente por la CPU.
Para gestionar esto, han creado SCADA, un framework de acceso a datos acelerado y escalado. Este sistema es brillante porque permite que las GPU extraigan solo lo estrictamente necesario del almacenamiento, manteniendo un estricto protocolo de seguridad basado en Linux para evitar que un proceso sobrescriba la memoria de otro, combinando así velocidad bruta con seguridad total.
Infraestructura integral y hardware de alto rendimiento
Para cerrar el círculo, el sector se mueve hacia soluciones llave en mano. Samsung, al ser un fabricante integrado (IDM), ofrece desde el diseño hasta el empaquetado avanzado, reduciendo los ciclos de desarrollo. Mientras tanto, NVIDIA despliega el Vera BlueField-4 STX y el almacenamiento CMX, creando una ruta de datos donde la compresión y el cifrado se hacen a velocidades récord gracias a CPUs especializadas que superan con creces a las arquitecturas x86 tradicionales.
Todo este despliegue tecnológico, desde el apilamiento vertical de la zHBM y las 400 capas de NAND, hasta la memoria de contexto de AIC y las APIs abiertas de NVIDIA, apunta a un futuro donde el hardware se funde con el software. La capacidad de mover terabytes de datos en microsegundos y procesarlos directamente en la memoria es lo que permitirá que la próxima generación de agentes de IA sea verdaderamente autónoma, rápida y eficiente en el consumo energético.
