天下苦N卡80G显存久矣

天下苦N卡80G显存久矣。
4TB显存的GPU有望变成现实!

闪迪（SanDisk）研发出了能媲美HBM（高带宽内存）的重磅产品：高带宽闪存（HBF），它能为AI GPU提供4TB的显存（VRAM）。

要注意，这个4TB的“显存”可不是闪迪新推出的GPU，而是一种能集成到GPU里的全新内存技术。

闪迪的高带宽闪存（HBF），工作原理和HBM（高带宽内存）很像，但容量要大得多。实际上，GPU制造商能在GPU封装时，把HBF和传统的低延迟DRAM（或者HBM）组合在一起。

这样一来，单个GPU就拥有了一个高达4TB的巨大内存池，用来执行AI推理任务。在AI推理任务中，拥有大量的、基本为只读的存储比超低延迟更重要。

和传统的HBM不同，HBF用差不多的成本，实现了8 - 16倍的容量提升，对于那些更看重吞吐量而非延迟的AI推理工作负载来说，HBF是非常理想的选择。

这种架构通过堆叠3D NAND芯片，并行访问多个闪存阵列来实现高带宽，不过单比特延迟比不上DRAM。

目前，产品发布日期和性能数据都还没有公布。

它的容量扩展十分惊人，8个HBF堆栈就能提供4TB的容量，也就是说每个堆栈能容纳512GB的NAND，容量是HBM3E的21倍。

当然，挑战也还是有的，比如写入耐久性和延迟问题，因为NAND的使用寿命有限，而且写入速度较慢。

目前还没有官方的性能测试数据和产品上市细节，所以对它实际的性能表现还有疑问。