首页财产进步前辈制造正文 年夜模子内存焦急，措施被想到了U盘上 IEEE刊发新思绪，SanDisk及SK海力士鞭策HBF，将进步前辈封装用在NAND Flash，估计晋升读取带宽，或者减缓存储供给紧缺困局 2026-07-21 14:20 ·微信公家号：量子位 葛文婷 葛文婷 AI投资人解读· SanDisk及SK海力士推出的High Bandwidth Flash（HBF），经由过程重叠NAND Flash芯片晋升读取带宽，方针单个仓库容量最高可达512GB，读取带宽最高可达1.6TB/s。HBF合用在AI推理场景，可减缓HBM容量瓶颈，降低成本及能耗。 · HBF今朝还有不是成熟产物，间隔年夜范围部署可能还有需几年。行业竞争激烈，其他技能可能会对于HBF组成挑战。 总结：HBF技能为减缓存储供给紧张提供了新思绪，特别于AI推理场景具备潜力，但面对技能成熟度及市场竞争等危害，需连续存眷其成长动态。
不是，Flash不是很慢吗？SanDisk及SK海力士怎么拿它喂年夜模子了？？？
IEEE最新刊发了一条挺反知识的新思绪：年夜模子的内存焦急，可能要靠U盘里的同款技能来减缓了。
没错，就是NAND Flash。
于不少人的印象里，Flash最 年夜的特色是自制、容量年夜、断电还有不丢数据，但要说速率，特别是拿来驱动年夜模子推理，好像怎么都不像正经方案。
但此刻，SanDisk及SK海力士正于鞭策一种新工具：High Bandwidth Flash（高带宽闪存），简称HBF。
它的思绪很直接：把HBM（高带宽内存）那套进步前辈封装及芯片重叠的要领，搬到NAND Flash上。
换句话说，就是让原本卖力存工具的闪存，也能介入到AI推理的高速数据供应里。
按照SanDisk公然资料，HBF估计可以重叠至多16颗NAND Flash芯片，方针单个仓库容量最高可达512GB，方针读取带宽最高可达1.6TB/s。
后续第二代、第三代线路图里，读取带宽还有会进一步晋升到2TB/s及3.2TB/s。
这个数字虽然还有追不上顶 级HBM，但已经经不是传统闪存那种“慢悠悠存储”的状况了。
这一技能突围的暗地里，多是全世界存储行业亟待化解的供给紧缺困局。
就于头几天（北京时间7月11号），韩国存储巨头SK海力士的首席履行官郭鲁正曾经于美股纳斯达克首秀之日公然暗示，全世界存储行业估计将于2027年面对史上最严峻的供给欠缺，该言论迅速引爆本钱市场与财产舆论。
于此配景下，SK海力士联袂SanDisk推出HBF，也许恰是他们为了减缓存储供给紧张交出的一份技能答卷。
一路来看看吧。
0一、Flash不是很慢吗，怎么能给AI用？
问题来了，Flash不是出了名的写入慢吗？怎么忽然能给AI用？
半导体市场研究机构Objective Analysis总监Jim Handy于IEEE Spectrum采访中就提到，许多人第 一反映也是这个：这怎么说患上通？Flash明明慢患上离谱。
但要害于在，Flash慢，重要慢于写入。
NAND Flash经由过程浮栅晶体管里的电荷来存储数据，并按块及页举行构造。这类机制使其断电后仍能保留数据，无需像DRAM那样不停刷新，是以自然合适持久存储，兼具高密度与低成本的上风。
不外价钱就是，写入数据时，需要把电荷推进或者移出绝缘栅，这个历程比给电容充放电慢患上多。
以是于传统计较视角下，Flash很难及DRAM、HBM这种高速内存放于一个桌上会商。
但若只看读取，工作就纷歧样了。
按最新ONFI 6.0闪存接口尺度，单颗die理论带宽最高可以到4.8GB/s。
单看这个数字，确凿不算夸张。
但DDR5单条DIMM最高可到70.4GB/s，HBM4E单仓库更是能到3.6TB/s，及单颗NAND闪存芯片比拟约莫是750倍量级差距。
HBF要做的，就是经由过程3D封装及垂直重叠，把多个NAND Flash die打包到一路，显著提高总读取带宽。
SK海力士内存体系研究高级副总裁Hoshik Kim指出：“经由过程将进步前辈的3D封装及垂直重叠技能运用在NAND闪存，HBF可以或许实现远超尺度NVMe存储的带宽。”
正如HBM重叠DRAM芯片同样，HBF则经由过程重叠NAND闪存裸片，打造出高存储密度的芯片。
他们想做的，从来不是让单颗Flash忽然变快，而是经由过程重叠及封装，把读取通道堆出来。
0二、HBF不是要代替HBM，它找准了本身的定位
HBF真正成心思之处，不于在它要代替HBM。
而于在它找准了一个很合适Flash的场景：AI推理。
练习及推理，对于内存的要求其实不同样。
练习年夜模子时，体系要不停读取权重、计较偏差，再经由过程反向流传更新权重；
这个历程既要年夜量读，也要年夜量写，对于Flash很是不友爱；
由于Flash写入慢，写多了还有触及寿命及擦写治理问题。
但推理阶段就纷歧样了。
于这个阶段，模子已经经完成练习，权重基本冻结，年夜大都时辰，体系需要的是把这些重大的模子权重快速读出来，而不是频仍改写它们。
这正好落于Flash相对于擅长的一侧。
SK海力士内存体系研究高级副总裁Kim暗示：“于推理情况中，诸如静态的数十亿参数模子权重或者估计算的KV缓存（precomputed KV cache）等海量、读密集型数据，都可稳当地存放在HBF层级。”
如许一来，昂贵且容量有限的HBM就能被开释出来，专门充任高速暂存区。
这个架构有点像给AI加了一层“超年夜容量只读内存池”。
HBM继承卖力最紧迫、最频仍的高速计较数据互换。
HBF则卖力装下那些体量巨年夜、但不怎么改动的模子参数。
对于当下的年夜模子推理来讲，这个思绪颇有实际意义。
由于当前年夜模子推理所面对的困境早已经不止在算力欠缺，内存不敷、带宽不敷、能耗过高、部署成本太贵等多重压力正交叉叠加。
特别是于模子范围连续膨胀的年夜配景下，单卡显存容量不足与HBM成本昂扬正成为制约其成长的显著因素。
许多时辰，不是GPU算不动，而是模子装不下，或者者数据喂不外来。
而HBF假如能于容量、带宽及成本之间找到均衡，就可能让更年夜的模子以更低的成本跑起来。
0三、512GB一仓库，AI办事器或者可罕用几张卡
SanDisk给出的第 一代HBF方针参数，最高为512GB容量、1.6TB/s读取带宽。
这个组合很要害——HBM的上风是速率极快，但容量昂贵且有限；HBF虽然速率低一些，却能提供更年夜的容量及更低的单元成本。
这象征着，将来AI办事器于部署年夜模子推理时，可能纷歧定要把所有权重都塞进HBM。
一部门冷一点、静态一点、读多写少的数据，可以放于HBF里。
如许做的潜于收益有几个：
第 一，减缓HBM容量瓶颈。
第二，削减为了装下模子而堆更多加快卡的需求。
第三，降低推理体系总体成本及能耗。
Kim的判定是：HBF与HBM其实不是竞争敌手，而是互为增补的东西。
他指出：“HBF可以或许于不捐躯数据供应速率的条件下，有用减缓HBM面对的严重容量瓶颈，从而有望削减运行年夜范围模子所需的加快器数目。”
于此基础上，他估计该方案还有将晋升能效并降低成本，进而助力数据中央进一步扩大其AI推理硬件范围。
这也是HBF最值患上存眷的财产逻辑：它不是为了让Flash酿成HBM，而是让AI体系里的差别数据，待于更合适本身的位置里。
热数据继承放HBM；年夜容量、静态、读密集数据放HBF；更低速、更自制的数据继承放SSD或者其他存储。
假如这套分层建立，AI推理硬件的内存架构可能会多出一个新层级。
0四、范围化落地尚远，但年夜模子内存系统已经现分工新旌旗灯号
固然，HBF今朝还有不是一个成熟的产物。
据IEEE Spectrum报导，HBF至少还有需要一年才可能出货，间隔年夜范围部署可能还有要几年。
本年2月25日，SanDisk及SK海力士已经结合举办启动勾当，公布于开放计较项目OCP下鞭策HBF尺度化事情。
作为数据中央硬件范畴主要的开放财产构造，OCP主导制订了年夜量办事器、机柜、电源和加快器相干规范，如办事器规范DC-MHS、加快器规范OAI-OAM等。
但今朝，HBF尺度还有于推进中，正式发布时间还没有确定——这也象征着，HBF于短时间内还有不会立刻转变AI办事器市场。
它更像是一个提早浮出水面的旌旗灯号：AI推理正于逼着存储及内存系统从头分工。
已往，年夜模子硬件的存眷点集中于GPU、HBM及互联。
但当模子愈来愈年夜、推理哀求愈来愈多，瓶颈就会从“算患上快烦懑”，扩大到“装不装患上下”“读不读患上动”以和“电费扛不扛患上住”。
HBF切入的，恰是这个漏洞。
0五、AI内存战役，可能不只属在HBM
成心思的是，SK海力士自己就是HBM最 年夜赢家之一。
HBM正于给它带来创纪录收入，按理说，推出一种更自制的替换性技能，好像不太切合贸易直觉。
但从体系角度看，HBF其实不必然会抢HBM的饭碗。
AI办事器将来需要的不是单一内存，而是分层内存。
让HBM卖力*机能，HBF卖力年夜容量高带宽读取，SSD卖力更低成本的年夜范围存储。
这套组合假如跑通，反而会让AI推理体系变患上更可扩大。
简朴说就是：不是每一一份模子数据，都值患上住进HBM的“豪宅”。 有些数据，只需要一个容量够年夜、读取够快、成本更低的位置。
HBF想做的，就是这个位置。
从U盘、SD卡里的NAND Flash，到AI办事器里的高带宽模子权重池，听起来跨度很年夜，但年夜模子的问题已经经很清晰：参数愈来愈多，推理愈来愈贵，HBM愈来愈紧。
而解决方案，未必只来自更贵的内存，也可能来自把认识的老技能，从头封装一遍。
【本文由投资界互助伙伴微信公家号：量子位授权发布，本平台仅提供信息存储办事。】【免责声明】：本文不组成任何投资建议。市场有危害，投资需审慎。若有任何疑难，请接洽（editor@zero2ipo.com.cn）投资界处置惩罚。
-lehu乐虎88国际