本文作者:访客

SRAM挑战HBM在AI芯片领域的地位,容量瓶颈成关键挑战

访客 2026-01-08 14:47:18 9 抢沙发
关于SRAM是否要取代HBM的问题,黄仁勋指出,虽然SRAM在速度上有优势,但在AI芯片领域,容量瓶颈是其硬伤,难以满足大规模数据处理的需求,HBM在AI芯片领域仍具有不可替代的作用。
1月8日消息,科技媒体Tom'sHardware今天(1月8日)发布博文,报道称在CES2026展会期间的问答环节,英伟达首席执行官黄仁勋针对“是否用更廉价的SRAM取代昂贵的HBM”这一行业热点进行了回应。注:SRAM全称为StaticRandomAccessMemory,直译为静态随机存取存储器,是高速小容量的静态缓存,基于触发器,速度极快但成本高、密度低;HBM是超高带宽、大容量的3D堆叠式主存(基于DRAM),通过垂直堆叠实现超高带宽,功耗低、容量大,主要用于AI/GPU,两者定位不同,SRAM是片上缓存,HBM是系统级高带宽内存,共同服务AI算力需求。AI行业当前正积极寻找降低成本的途径。随着SRAM加速器、GDDR推理方案以及开放权重模型的兴起,业界出现了一种声音,认为这些低成本方案可以缓解对英伟达昂贵组件的依赖。特别是在基准测试(Benchmark)和受控演示中,SRAM凭借极高的访问速度和无延迟特性,展现出了诱人的性能优势,甚至被视为HBM的潜在替代者。黄仁勋并未否认SRAM的速度优势。他直言:“对于某些特定工作负载,SRAM快得惊人。”然而,一旦进入生产级AI系统,SRAM的优势便会因容量瓶颈而崩塌。黄仁勋指出,SRAM的容量增长速度远跟不上现代模型的需求,其可容纳的模型规模仅为HBM系统的百分之一。在模型因上下文增加或功能扩展而溢出SRAM时,系统被迫调用外部内存,导致效率优势瞬间消失。黄仁勋进一步剖析了AI工作负载的不可预测性。现代AI模型形态各异,包含混合专家模型(MOE)、多模态任务、扩散模型及自回归模型等。这些架构对硬件的压力点截然不同:有的依赖显存容量,有的依赖互连带宽(NVLink),且需求时刻在变。如果硬件针对某一特定模式(如纯SRAM)过度优化,一旦工作负载发生变化,昂贵的芯片就会闲置。基于此,英伟达坚持选择HBM路线。黄仁勋认为,在共享数据中心中,灵活性是决定经济效益的关键。即使某种专用硬件在5%-10%的任务中表现极致,但如果无法处理其余90%的通用任务,就会造成巨大的资源浪费。相比之下,HBM方案虽然物料成本更高,但能适应不断变化的算法和模型架构,确保硬件在数周甚至数月的运营周期内保持高利用率。针对“开放模型是否会削弱英伟达壁垒”的提问,黄仁勋表示,开放并不意味着降低基础设施要求。随着开放模型整合更长的上下文和更多模态,其内存占用同样会激增。英伟达愿意承担高昂的HBM成本和复杂的系统设计,正是为了保留“可选性”(Optionality),既防止客户被锁定在狭窄的性能范围内,也保护自身硬件免受模型架构快速迭代的冲击。
文章版权及转载声明

作者:访客本文地址:https://shucuo.cn/post/7159.html发布于 2026-01-08 14:47:18
文章转载或复制请以超链接形式并注明出处数错网

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享

发表评论

快捷回复:

验证码

评论列表 (暂无评论,9人围观)参与讨论

还没有评论,来说两句吧...