高盛:AI推理需求快速增长,存储容量不足正成为制约算力效率的重要瓶颈
高盛发布研报指出,随着AI推理需求快速增长,存储容量不足正成为制约算力效率的重要瓶颈。
10月13日,高盛发布研报指出,随着AI推理需求快速增长,存储容量不足正成为制约算力效率的重要瓶颈。高带宽闪存(HBF)等新型NAND技术有望缓解这一“内存墙”问题,并显著降低AI基础设施成本。该行预计,在GPU采用率达到15%至50%的情况下,HBF潜在市场规模可达400亿至1500亿美元。
研报指出,AI模型上下文窗口正从约150万Token向1000万以上扩展,推理任务对存储容量的需求激增。传统HBM虽然具有带宽优势,但容量有限,迫使云厂商增加GPU数量以扩充内存,导致算力利用率偏低。
HBF通过堆叠高密度NAND闪存,可实现单堆栈512GB容量,远高于HBM的16至32GB,同时提供最高约3TB/s的顺序读取带宽,接近HBM水平。
高盛测算,在HBM与HBF混合架构下,单颗GPU可增加约4TB存储容量。对于100万Token上下文任务,采用HBF可将单位推理吞吐成本降低约33%,同时提高GPU利用率。部分场景下,4颗配备HBF的GPU即可实现8颗传统GPU的推理吞吐量,整体能效最高提升约2.7倍,有望为云厂商节省数千亿美元资本开支。
市场规模方面,在乐观情景下,HBF到2028年底可覆盖50%的GPU,占全球NAND位元出货量约4%,但因制造工艺占用更多晶圆面积,可能消耗约9%的全球NAND晶圆产能,从而延长存储行业供需紧张周期。
不过,HBF仍面临读写延迟、耐久性、功耗及散热等挑战,商业化进程存在不确定性。铠侠的XL-Flash和三星的zNAND-O也在探索类似技术路线。
投资方面,高盛看好闪迪和SK海力士的HBF技术领先优势,维持两家公司“买入”评级;三星电子同样有望受益。相比之下,美光因业务重心偏向DRAM和HBM,直接受益程度较低,维持“中性”评级。高盛同时指出,HBF若减少同等推理任务所需GPU数量,可能对部分AI加速器厂商形成压力。

