Empresas Sandisk y SK hynix presentó oficialmente el estándar previamente anunciado Flash de alto ancho de bandaes decir, HBF. La nueva tecnología ha combinan la enorme capacidad conocida de la memoria NAND con un rendimiento similar al de los sistemas HBM. La solución fue diseñada principalmente para sistemas de inteligencia artificial que realizan inferencias y necesitan almacenar modelos cada vez más grandes cerca del procesador o acelerador.
Esto ayudará a reducir los problemas relacionados con, entre otros: desde KV Cache
La primera especificación proporciona Paquetes con una capacidad de hasta 512 GB.utilizando pilas que contienen 8 o 16 capas. HBF se dividió en tres clases de rendimiento, que proporcionan de 0,4 a 3 TB/s. Sin embargo, aún no está claro si el valor más alto se aplica a un solo paquete o a todo el subsistema de memoria. En teoría, esto sería más que los aproximadamente 2 TB/s que ofrece una sola pila HBM4, aunque En términos de retrasos, es probable que HBF siga rezagado.
Para la comunicación se utilizará el estándar UCIe.permitiéndole combinar diferentes sistemas dentro de una sola plataforma. Sin embargo, lograr incluso 400 GB/s en un paquete de 512 GB requerirá un controlador muy complejo y acceso simultáneo a muchas estructuras de memoria.
Sin embargo, no se sabe si la industria decidirá utilizar ampliamente el nuevo estándar. Hasta el momento han manifestado interés en el proyecto. Google y Tensorrentmientras que AMD, Intel, NVIDIA, Samsung, Micron y otros grandes fabricantes no han anunciado su participación. Las muestras se entregarán a los socios a finales de este año.y los resultados de las pruebas en condiciones de combate determinarán el éxito o el fracaso del HBF. Para muchas empresas, el precio será clave.
