Mercado memoria para inteligencia artificial Es posible que esté esperando otro gran cambio. Al lado de los famosos hbm un tema que surge cada vez con más frecuencia HBFes decir, Flash de gran ancho de banda. Esta solución pretende combinar un gran ancho de banda con capacidades anteriormente reservadas sólo para SSD. Según informes de la industria, está muy interesado en la tecnología. GooglePero Nvidia no tiene intención de utilizarlo por ahora.
Se supone que esto es una solución para la interferencia, no un entrenamiento.
HBF es desarrollado por empresas Sandisk y SK hynix. estructuralmente también se basará en la disposición en capas de los huesos conectado con vías TSV verticales. La diferencia radica principalmente en el propósito y la capacidad. Las pilas HBM actuales suelen ofrecer entre 32 y 64 GB de memoria, mientras que se espera que HBF aumente hasta 4 TB por pila en el futuro.
La nueva memoria no será tan rápida como la de HBMpero sus creadores suponen que la arquitectura adecuada permitirá un rendimiento suficiente para muchas tareas relacionadas con la IA. Esto puede ser particularmente importante al realizar inferencias, es decir, al manejar modelos ya entrenados. A medida que se desarrollan los agentes de IA, aumenta la importancia de una memoria grande, rápida y relativamente eficiente desde el punto de vista energético, lo que ayudará a reducir la carga en los principales sistemas informáticos y reducir los problemas relacionados, entre otros, con KV Cache.
Sin embargo, NVIDIA abordará este tema de otra manera. Los Verdes no planean implementar rápidamente el HBF, reconociendo que Estos problemas se pueden resolver con eSSD extremadamente rápidos. La empresa cooperará con kioxia en medios semiconductores con interfaz PCIe 7.0, mientras que el segmento de consumidores aún no ha implementado PCIe 5.0 a gran escala.
Pero por ahora todo es teoría. Se espera que las primeras muestras de HBF aparezcan en el segundo semestre de este año. Por ahora, es difícil predecir si la tecnología realmente se convertirá en un elemento importante de los servidores de IA, pero su potencial no se limita a reemplazar a HBM. HBF también puede competir con las memorias DDR y LPDDR estándar en los centros de datos.
