James TT

赛博道士·加密禅师 Life is fun, enjoy the game. 唵嘛呢叭咪吽

[Jukan @ ICML @jukan05]

$INTC 18A YIELD ISSUES FIXED

[*Walter Bloomberg @DeItaone]

$INTC : HSBC RAISES TARGET PRICE TO $200 FROM $100

[美研芒格君 @Kay2289123]

这篇文章跑断了双腿，用尽人脉，走访了十余家硅谷一线做光模块、互联、存储的公司，和一线 Manger, RD 深入交流，陆陆续续写了 4 周。相信是你在别的地方看不到的

我不仅聊，也跟着真金白银地下注。口说无凭，截图奉上。

请注意，大家不要盲目跟单，评论区冒充我的都是骗子。我在WhatsApp 也不会分享任何策略。

存储大家最近肯定都有关注。东西贵了总会回落，偏偏这一次，没那么简单

我拆解了AI 疯狂消耗存储底层的三把结构性短缺锁。有人认为，只要 AI 投资不掉头，这场紧张会一路拖过 2028 年。我同意

既然贵又缺，那就想办法少用它——开始挖一条条绕开这笔税的路。这，才是这篇文章真正想带你看的东西。

内存墙是一个词，其实是两个毛病

第一个毛病是装不下（容量）：KV 缓存、模型权重，HBM 里塞不下
第二个毛病是搬不快（带宽）：数据从内存搬到 GPU 的速度跟不上

「省内存容量」和「互联传得快」解药，也是新瓶颈，熟悉我的《三层逻辑》的读者都知道，这是新玩家、机会

文章深度拆解了三条路线
📷第一条路，用便宜的料，去顶替贵内存 HBF: 「容量大得多、但慢一些」: SNDK, SK 海力士

📷第二条路·砍掉数据搬运
>「近内存计算」AI 推理的核心运算是矩阵乘法，做进内存芯片里— SK，三星等
> 光 HBM: 光模块搬存储：MU, MRVL等
> 3D 堆叠

📷第三条路：软件智能管理
>冷热数据分层：猜得准
>共享内存（CXL协议）：三星、SK、MRVL，ALAB

小众方式：SRAM

我的观点 三条路不是竞争，是分工。说到底，我在观察的是一件什么样的事：当一种东西又贵、又缺、还降不回来，一整套「绕开它」的技术生态，会怎样整体地长出来，这是凭空冒出来的新曲线、新资金

我在硅谷一线大厂，每天从事 AI 推理训 ,把行业掰开揉碎讲给你听。欢迎回看，节选⬇️
06-24《要看懂万亿光互联，Credo很关键》
06-02 《迈威尔+50%, 不看懂怎么能安心？深入解读原》
05-26《美光...下个产业机会流向》-> amat, kla
05-28 《40小时呕心沥血！MRVL光模块+AI推理布局解析》
05-21 《深度拆解ALAB互联27年布局, 这次别踏空!》
05-10 《耗时一周调研，带你彻底读懂 MRVL底层逻辑》
05-03 《压箱底的 AI 主线 下一“瓶颈”标的》
04-29 《MXL》
04-28 《MRVL进入关键时期》
04-27 《Marvell 取消 POET 是必然+5 层光模块解析》

[qinbafrank @qinbafrank]

想让通胀降的更快，美国动用统计大法：让统计数字先降下来。美国经济分析局（BEA）近期宣布，将调整PCE价格指数的统计方法，并于9月30日随年度GDP修订正式生效，历史数据追溯调整至2021年。这次调整主要涉及三个项目：计算机软件、法律服务和投资组合管理（投资咨询服务）。市场预计这些调整会使核心PCE同比增速下修约0.1–0.2个百分点（例如高盛预计2026年5月核心PCE可能从3.4%下修至3.2%）。

具体调整内容
1. 计算机软件及配件
1）现行方法：完全依赖CPI（消费者价格指数）中的“计算机软件及配件”指数。
2）新方法：改用CPI + PPI复合价格指数（包括游戏软件出版PPI、主机托管与IT基础设施服务PPI等）。目的是更全面反映生产端和消费端的价格变化。

2. 法律服务
1）现行方法：主要使用CPI法律服务价格。
2）新方法：更多采用PPI（生产者价格指数）相关分项。BEA提到此前部分BLS数据因质量问题（erratic changes，无法与其他数据印证）已被调整，此次进一步优化数据来源。

3. 投资组合管理及投资咨询服务（影响最大的一项）
1）现行方法：直接用该行业的PPI来平减名义支出，得出价格指数。由于管理费通常按资产管理规模（AUM）收取，资产价格上涨会直接推高名义支出和PPI，导致该分项近期同比涨幅高达21.6%，成为核心PCE的重要贡献项。
2）新方法：改用BLS就业调查中的行业总工时增长来衡量“真实服务量”，再用名义支出 ÷ 真实服务量来倒推价格指数。这样能更好区分“服务价格真正上涨”与“因客户/资产规模扩大带来的收入增长”。

这个影响自然是核心PCE（美联储首选通胀指标）读数会系统性下修。高盛估计，三项调整合计后，5月核心PCE同比可能被下修0.2个百分点。看起来不多，但对美联储来说，这可能改变市场叙事——从“通胀依然顽固”，变成“通胀正在降温”。

如此这般，降息空间就出来了，至少也是降低了维持高利率的必要性。

更微妙的是，瑞银指出，这次被调整的分项里，有两个都是过去一年核心PCE通胀贡献最大的Top4（特别是投资组合管理服务）。

本条由@bitget_zh赞助，「Bitget 买美股：秒级入场，丝滑交易 」

[Rihard Jarc @RihardJarc]

I just published my article on how hyperscalers like $AMZN, $MSFT, and $GOOGL will benefit in the token optimization era and why I believe the companies will re-rate much higher.

https://t.co/CQjUnFH3FD

[wu fan @wufantouzi]

btc： 它真的和我太像了
极大的赔率
极大的波动
车速太快了
很难坐稳

饭：他们拿不住
我可以理解
早年的我
也是这样失去年轻的你的

btc：悟已往之不谏
知来者之可追

[RamenPanda @IamRamenPanda]

翻译：对于机器人公司，我看好 Unitree 和 Agility Robotics，这两家的人形机器人玩家。 而且我在 Agility Robotics 上有最大的持仓，因为我个人更偏好美国的人形机器人玩家。 对于上游组件的投资，我目前持有： - Harmonic Drive (6324)，因为在谐波减速器等部件上的 BOM 含量很高。 - Vishay Precision，用于传感器，并且是 Tesla Optimus 的潜在候选供应商。 LeaderDrive (688017) 和 Schaeffler 我也看好，但个人没有持有。 许多其他 AI 数据中心玩家，我通过像内存这样的间接方式暴露于机器人领域。 不建议任何人抄袭，只是分享个人仓位/想法。 人形机器人领域很大，正如高盛报告所见，“韩国公司将占据全球人形机器人生产 30% 的直接和间接份额”。 全球有很多玩家。这是一份较旧的报告，但我再次链接它，因为你会看到它们都出现在高盛机构报告中 + 他们覆盖的内容。 Agility Robotics 目前是我个人最喜欢的。

[James TT @JamesPandaVC]

@0xTodd 我也发生过这样的经历，当时觉得有个人在与自己交流。甚至是一个神。

[Chris Lee @ViewsOfChris]

根基不变没必要太关注宏观
“我和沃伦并非依靠预测宏观经济走势并基于这些预测结果下注，才在人生中取得如今的成就。” - 查理.芒格
"我也不是。"（2012-06-26） - 段永平

“我对总体经济一窍不通，汇率与利率根本无法预测，好在我做分析与选择投资标的时根本不去理会它。
从预言中你可以得知许多预言者的信息，但对未来却所获无儿。”- 沃伦.巴菲特

“好多人以为自己看看新闻就能比巴菲特明白，可笑不？
哈哈，这个说法很妙。”（2012-07-28）- 段永平

[James TT @JamesPandaVC]

@ViewsOfChris agree

[Kay Capital @keyahayek]

few understand（我加了

[Kan & B @KanKanandB]

No paywall! The article I have been working on for $BB

Again no paywall free knowledge https://t.co/vsZpYaBCyo

Considering the earnings #QNX Secure comms should cement $BB as a #investment worth having. This is something most longs already knew. Congrats again to BB and the QNX team as well as Secure Comms

[James TT @JamesPandaVC]

@flowingcloudsjp @_FORAB 。。。

[Jen Zhu @jenzhuscott]

World’s top 20% AI researchers - almost half of them did undergraduate in China.

[Tzwqbest @tzwqbest]

也就是说 信维通信作为实实在在的高端MLCC，昨天是他的首秀。风华高科这些都涨到严重异动了，信维才刚开始拉升。

雪球看见一个兄弟写的很好。风华高科三环集团的MLCC低端比较多，这轮市场炒的是ai服务器级的高端MLCC，换句话说实际上这段时间炒MLCC没炒到重点，真正的对标村田的服务器级MLCC刚刚启动

[김두한 @gimduha77994334]

Late Cycle로 갈 수록 시장폭이 넓어지며 전방위적 상승, 광범위한 순환매가 일어난다고 잘못 알고 있는 사람들이 많다.

당장 코로나 때만 해도 인플레이션 내러티브로 러셀, ARKK, 알트코인 상당수는 이미 21년 1분기에 고점 찍고

대형주, 나스닥, 비트코인과 일부 알트코인들만 하반기에 전고점을 뚫었다.

후반부에 오히려 시장폭이 좁아질 수 있다는 것.

IT버블 때도 미국 이외 국가와 기술섹터 이외 자산들은 2000년 3월 나스닥 고점 이전부터 이미 하락 중이었다. 지금 인도네시아, 인도 증시와 비반도체 섹터를 보면 유사하다.

대공황 전 Roaring 20s 때도 마찬가지다. 고점 1년 전부터 중소형주는 이미 하락하기 시작해, 후반부에는 시장폭이 좁아졌다.

많은 사람들이 코로나 때 투자에 입문하여, 고점 직전 일부 밈스톡들의 광기를 경험하고, Late cycle 때 광범위한 순환매가 온다고 생각하는 듯한데 착각이다.

특히 코인 투자자들이 이런 과거 왜곡이 심한데, 17년에는 어땠고 20년도에는 어땠고 이런 식으로 알트장에 대한 자기 경험을 풀어놓는데 실제 데이터를 보면 맞지를 않는다.

지금 시장폭이 좁아진 상황을, 통계적 패턴에 기반해 곧 시장 조정이 온다고 해석할 수도 있고,

반대로 시장폭이 좁아지고도 1년 이상 랠리한 통계를 기반으로 상승장이 지속될 것이라 해석할 수도 있고,

아니면 쏠림이 풀려 순환매가 돌 것이라 해석할 수도 있다. 그것은 자유이지만,

해자나 촉매도 없는 종목을 무작정 붙잡고 버티면 오른다거나,

코스피가 갔으니 코스닥도 간다거나 하는 검증할 수 없는 미약한 패턴을 근거로 투자를 하는 건 권장하지 않는다.

시장에 그런 법칙은 없다.

역사 공부가 쓸모없고, 오히려 독이 된다는 이유는 현재와 미래가 과거와 다르기 때문이 아니라

인간이 기록된 역사조차도 스스로 왜곡하고, 심지어 이에 기반해 잘못된 확신까지 가지게 되기 때문이다.

[猎手killer🪙 @memekiller365]

1️⃣2026年5月20日，京东方与全球特种玻璃巨头康宁签署了为期三年的合作备忘录，重点围绕玻璃基封装载板、光互连等领域展开深度合作。消息发布后，京东方A一字涨停，而旗下Micro LED核心平台京东方华灿光电当日大涨近10%，股价创出新高。市场如此追捧，根源在于这次合作可能为京东方华灿尚处培育期的Micro LED CPO（共封装光学）业务带来深远影响。
2️⃣要理解这一影响，首先需要看清合作背后的战略逻辑。就在两周前，英伟达刚刚宣布与康宁建立长期战略合作伙伴关系，康宁将新建三家美国工厂、光纤产量提升超50%，并向英伟达发行5亿美元认股权证。这意味着康宁已被英伟达视为AI数据中心光互联基础设施的核心供应商。京东方此时与康宁签约，或许能借道康宁，间接切入英伟达主导的AI算力供应链。
从技术层面看，玻璃基封装与光互连天然耦合。Micro LED光互连芯片需要封装在玻璃基板上，才能实现与光纤的高效耦合；而玻璃基封装载板本身又是支撑芯片稳定工作的底层平台。两者互为前提，缺一不可。此次合作恰好打通了从“特种玻璃材料—玻璃基载板—Micro LED光芯片—光模块”的全链条。
3️⃣京东方华灿光电之所以被视为直接受益方，在于它已经在这个领域打下了扎实基础。其珠海Micro LED晶圆制造项目是全球首条6英寸Micro LED规模化量产产线，2024年11月投产，2025年4月已批量出货。公司已正式将战略重心拓展至智算中心光互连领域，首批面向AI服务器的Micro LED光互连模块样品已交付海外头部客户验证。
4️⃣外界盛传京东方华灿是目前国内唯一向英伟达送样Micro LED CPO光源芯片的厂商，产品正处于验证阶段，虽然公司一再澄清与英伟达暂无合作。但不可否认的是，京东方华灿在Micro LED CPO光源芯片技术储备中已经处于领先位置。同时，大股东京东方科技集团拟以近10亿元参与华灿定增，也从侧面印证了对其前景的信心。
本次合作带来的技术协同效应十分直接。康宁在光纤连接、光器件及半导体先进材料方面拥有深厚积累，而京东方华灿则具备从Micro LED芯片制造到光模块集成的能力。双方联手，有望在芯片与玻璃基板的光学耦合这一技术瓶颈上取得突破。此外，京东方在Micro LED显示屏领域积累的微米级LED制备经验，在CPO场景下可以复用，且绕过了显示屏应用中最难的巨量转移门槛。
5️⃣更重要的是，这次合作把京东方华灿推向了AI算力供应链的核心位置。京东方与康宁在玻璃基封装、光互连方向的深度绑定，意味着华灿的Micro LED光芯片有望以更完善的配套方案进入英伟达等AI巨头的采购清单。一旦英伟达CPO方案落地，康宁的大规模光纤出货将带动上游Micro LED光源芯片需求爆发，而华灿有望作为核心芯片供应方直接受益。
6️⃣市场信心层面也给出了积极回应。合作公告发布后，华灿光电当日大涨近10%，部分重要股东决定暂缓减持计划。资本市场正在重新定义华灿——从传统LED芯片制造企业，向“AI算力光互连核心硬件供应商”转型，估值逻辑正在发生根本性重构。
7️⃣然而，在肯定积极影响的同时，也必须审慎看待其中的风险与不确定性。京东方在公告中明确提示，玻璃基封装载板试验线良率尚未达到量产水平，光互连业务虽已产出样品但未形成销售收入，未来能否实现预期效益存在重大不确定性。华灿光电自身也在投资者互动平台表示，“目前相关研发工作仍处于早期阶段”。
8️⃣技术路线同样远未成熟。目前Micro LED CPO方案大多处于前期设计或送样环节，乐观估计也要两到三年后才能实现小规模导入。TGV等关键工艺业内普遍预计到2028年才有可能量产突破，尤其面向AI/HPC芯片与100+Tbps CPO等高带宽场景。‌‌竞争格局也不明朗，三安光电、兆驰股份、乾照光电等对手同样在布局Micro LED光通信方向，谁能力率先行量产仍存变数。
9️⃣综合来看，京东方与康宁的合作，对京东方华灿Micro LED CPO业务的影响可分为三个层面。短期主要是信心提振和估值重构，资本市场已给出积极回应。中期有望在技术研发与客户导入上形成实质性加速，尤其是通过康宁这条纽带，华灿与英伟达的供应链关系有望取得实质性进展。长期而言，如果玻璃基封装与Micro LED光互连能够顺利实现技术突破，京东方华灿有望成为AI算力基础设施领域不可或缺的芯片供应商。
🔟风险犹存，但方向已然明朗。康宁带来的不仅是玻璃，更是一条通往AI算力核心产业链的战略通路。对于京东方华灿而言，这一步走得既果断又必要——在AI驱动的新一轮硬件革命中，玻璃基板之上的Micro LED光互连，或许正是它从显示走向计算的关键一跃。

[fin @fi56622380]

AI半导体终局推演2026(II)

当半导体结构性演进到AI推理主线，内存和存储成为了最大瓶颈，市场对内存和存储最大的怀疑就是：

HBM/DRAM/SSD会不会摆脱传统周期性？

依赖HBM指数增长的GPU架构路线进化路线，会不会停止？什么时候停止？

长鑫扩产的影响有多大？会不会把这个市场重新带入周期泥潭？

本篇尝试去建立一个框架来梳理这几个问题

—---------—---------
万物皆周期，而内存的周期性又特别强，最大的来源在于扩产周期过长，无法快速扩产和需求短缺时期错配

摆脱传统周期性几种可能的方式

1. 定制化：产品不可互换，产能不能随便转移，需要签长约。

2. 结构性的指数级需求增长：需求曲线本身很陡峭，而且供给一直追不上。

3. 技术迭代快速升级：每一代产品都快速淘汰上一代。
满足任何一条，就能部分摆脱传统周期；满足两到三条，就能摆脱大部分传统周期

根据这个框架， HBM在三条里，大概占了两条半

1. 定制化，需要签长约（较弱，算半条）

HBM 确实有定制化和Nvidia codesign的成分，但并不是很强。真正定制的部分只在封装和 base die，上面那十几层 DRAM die 仍然是完全 JEDEC 标准化的。

比如当 Samsung 的 HBM3E 在 NVIDIA 的 qualification 上没过、份额从大约 60% 一路跌到 20% 的时候，它并没有把这批产能砸在手里报废，而是转手就供给了 Google 的 TPU、AMD. 物理上，给 NVIDIA 的 HBM3E 和给 AMD 的 HBM3E，是同一个东西。 所以产能仍然是部分可以自由转移的。

HBM4之后的定制化更多一些，包括在 base die 上集成定制逻辑和/或缓存。更复杂的方式是将 HBM4E 内存控制器和定制 die-to-die 接口直接放入逻辑 base die

SemiAnalysis 提到 OpenAI、NVIDIA 和 AMD 各自都在做定制 HBM 的工作，但这指的是 base die 的定制，上面的 DRAM 层仍然是标准的。

部分定制化的特性，HBM主要在封装上需要合作，这也导致了客户必须签长约，但产能也确实可以转移，所以HBM 能勉强算半条。

2. 结构性的指数需求增长（满足）

最直观的原因，就是Nvidia token factory token throughput的硬件升级需求，导致了HBM带宽的升级换代极快，以及HBM size需求的指数增长

这一条其实就是上一篇AI半导体终局推演2026(I)的结论：
token throughput = HBM size × HBM 带宽，每一代翻倍。

HBM size per GPU大概每年增长40%以上

这条需求曲线的陡峭程度，是DRAM供给端 14% 的 wafer 增长，乘以 9% 的 density 提升，很难追上的

在硬件领域，因为attn阶段KV cahce的极高带宽和极高memory size的要求，也导致了HBM独特的地位。即便是HBM涨价三五倍，把钱花在HBM上带来的边际token throughput提升，仍然比花在其他地方要划算的多。

其他几个Memory路线，SRAM，HBF，CXL，PIM，目前都无法在HBM的主力赛道kv cache/attention上正面竞争，起码未来5年甚至更长时间，不太可能找到替代路线

3. 技术迭代快速升级（满足）

DDR3时代过了15年，仍然只是DDR5时代，而HBM的升级换代的速度基本上是两年一代，比传统DDR要快很多很多，而且近来还有加速的趋势，HBM size x HBM BW每一代翻倍，目前是完全符合这个规律的

每两年一代HBM升级，NV GPU速度基本是指数型上升：2TB/s ->3.5TB/s->4.8TB/s ->8TB/s->22TB/s，而且HBM的速度和推理token throughput是完全线性正比的，上一代HBM的边际使用成本会不划算，大家都有动机去尽量用最新的产品，虽然更贵，但是带来的收益(token throughput)是更多的

Token factory时代的逻辑是，技术升级（HBM带宽）的越多，赚的越多

这个速度差，造成了一个和 CPU 类似的局面：旧产品快速贬值，于是囤货的价值在变低，比如说，HBM3的价值贬值的非常快，今天基本上主流产品不会用了

所以HBM 厂商的理性选择，从拼当前的产能去占市场（quantity competition），变成了在稳定性和HBM速度上拼技术，拼下一代在 NVIDIA 平台上的 qualification 份额（quality competition），从而避免了在传统周期的下行波段，大家都不愿减产掉市场份额的囚徒困境。

—--------------—--------------

HBM和传统DRAM比较，三个条件里满足了两个半，那么HBM能摆脱传统周期性吗？

内存周期性的来源，主流叙事是，DRAM 有Commodity属性（无差异化 → 价格战 →库存可囤积），所以有周期性。

而Commodity属性本身并不产生周期，它只是一个振幅放大器

特别是DRAM领域里，曾经产生过囚徒困境，在下行周期三星曾经扩产抢市场份额，谁先减产谁吃亏，导致谁也不敢轻易减产，最后大家都亏损惨烈

实际上周期性的主要结构性来源是供给周期太长，很容易和需求周期错位。建一座 fab 要 3 年，投资上百亿美元，一旦决策就不可逆，而需求增长会有不稳定性，每次出现新范式增长，比如云服务，移动互联网手机，疫情线上需求，会有爆发式增长，而过了两年增长会放缓，供给高于需求，降价过猛，就变成了亏钱周期

万物皆周期，HBM这一条同样是无法避免，但只要token需求仍然是指数型增长，结构性的指数增长会减弱周期性，因为需求可预测度更好，而且一旦降价，客户就有增大HBM size的需求（从而增大token throughput），加上HBM有一点定制化要求导致都是长约，从而从周期性转化成成长周期性，而且这一轮周期会特别长

周期性：上行周期赚的多，下行周期亏的多
成长周期性：上行周期赚的多，下行周期赚的少

另外，HBM/DRAM在这三条摆脱传统周期的条件的基础上，还有一条重要优势：

4. 因为DRAM密度增长scaling越来越慢，以及HBM升级换代导致DRAM堆叠倍数的增加，供给端的扩产难度持续增加

2000年附近，DRAM每片wafer上DRAM bit密度每年增长大概45%，也就是说，就算晶圆wafer数量不扩产，每年的供给端DRAM bit仍然可以增长45%

十年前，DRAM bit每年密度增长降到了20%，而现在，DRAM bit每年密度增长降到了9%。以前DRAM扩产甚至不怎么需要新建厂房就能得到每年20~30%的bit volume上升，现在DRAM要扩产，更多的是靠wafer数量的增长，也就是新建厂房和clean room。

另外一个HBM快速扩产难度在于，HBM3e大概需要3倍的DRAM wafer晶圆，而HBM4由于堆叠密度的增加，大概需要4倍的DRAM wafer晶圆数量，相当于HBM bit相对于DRAM bit一直变得更难制造，单位DRAM wafer数量制造的HBM bit越来越少，相当于在通缩

----------------------------------

HBM未来有一天，会不会从成长周期性，变回传统周期性？最重要的因素是结构性指数增长，那么
AI推理时代，这个依赖HBM指数增长的GPU架构路线进化路线，会不会停止？什么时候停止？

token throughput = HBM size × HBM 带宽，这个HBM指数增长的第一性原理里的HBM size的增长原因正是KV cache的增长。KVCache的特性以及Attention的特性,也是非常契合HBM的。甚至让HBM领先于其他的技术路线, 能够最大化地让KVCache和Attention 阶段的利用率。

换言之， 如果KV cache从架构上不存在了，那么HBM size指数增长逻辑也会受到挑战

所以这个问题的本质其实是，这一轮以 Transformer 为代表的 attention 机制、以及由它衍生的 KV cache 机制，会不会消失？退潮之后会不会被取代？

从历史规律来看：每一次AI模型架构革命，真正被保留下来的，是那些在数学上具有某种普适性的 primitive 操作

举个例子：FFN（前馈网络，也就是模型里大量的 MLP 层）是 2012 年深度学习时代的产物，但它一路活到了今天的大语言模型里，并且仍然占据着模型相当大的参数量。它为什么能活下来？因为这也是一种universal approximation theorem（通用逼近定理）：任何足够宽的 MLP 都能逼近任意连续函数

Attention 大概率也是这样一个会被保留的 primitive。因为它解决的是一个同样 基础的问题：序列sequence 中任意两个位置之间的 dynamic routing（动态路由），让一个序列里任意两个位置都能按需建立联系。这个能力一旦被验证有效，就很难被丢弃

所以即便未来架构从纯 Transformer 向混合架构演进，或者向世界模型演进，但attention 层依然会存在，KV cache（或者它经过 latent compression 之后的等价物）依然需要，HBM依然会作为推理核心之一，这个依赖HBM指数增长的GPU KV cache架构路线进化路线，不会停止

—---------------—---------------

那么DRAM呢？在未来有没有摆脱传统周期性的可能？

HBM摆脱周期性在市场上有一定共识，但DRAM摆脱周期性，市场目前基本没有共识

还是回到刚才的框架，三个摆脱传统周期的条件里，DRAM是没有定制化的，所以就只能看技术迭代速度，最关键的还是要看，有没有结构性的指数增长，答案是有的

在 AI token factory 这个概念里，结构性指数增长的确实主要是 HBM。但事情在 2025 年年底之后起了变化：随着 agentic CPU开始释放潜力，CPU 附带的那部分 DRAM 需求，正在成为 DRAM 新的结构性指数增长来源

—------

这部分的增长逻辑分两层：第一层是CPU 服务器TAM的快速增长，第二层是每个服务器CPU core配备的DRAM用量的因为agentic flow快速增长

服务器CPU TAM的快速增长的4个逻辑在4月的CPU专篇详细写过，简单的说：

1. AI 加速器集群里CPU和GPU配比从传统的1：4变成1：2，甚至可能往1：1迈进

2. Agentic flow里CPU处理的延迟占比很高，50~90%成为重要瓶颈，需要同步扩容

3. AI coding让SDE的效率大幅提升，代码量数量级增长，软件API调用指数级增长，直接转化为这部分CPU hours指数级上升

4. Sandbox为保障数据安全与隔离，如Analytical Agent 需为每个任务复制大量数据库和用户上下文，导致内存(DRAM)和CPU核心的严重浪费，而且这个浪费问题五年甚至更久无法解决。另外CPU hours 在技术上很难通过优化的方法来通缩

这也就是为什么，上上个季度，AMD的财报说CPU TAM到2030年会到60B，两个月前，AMD/ARM把CPU TAM的2030年预测翻倍到120B，一个月前，Nvidia再次把CPU TAM的2030年预测翻倍到200B

而上个星期，Bernstein再次提升2030 CPU TAM指引到223B。在我看来，2031 CPU TAM未来上修到400B是没有太大悬念的事情，唯一的悬念是几个巨头会什么时候宣布上修这个指引

再说说第二层，为什么每个服务器CPU core配备的DRAM用量在agentic时代快速增长？

1. Agent 是带状态的长驻进程，不是无状态的请求-响应

传统 web/SaaS 是 stateless 的：请求进来，分配内存，处理完内存立刻回收。而一个 Agent 任务可以跑 一分钟到一个小时，这整段时间里，它的 message history、system prompt、工作记忆、长期记忆、工具结果 buffer 全部常驻 DRAM

和 CPU hours 一样，每个任务的内存足迹因为 stateful 和 sandbox 隔离(每个任务复制数据库和上下文)的要求，技术上很难压缩

2. 上下文窗口在指数级变长，每个会话的工作集随之膨胀，并发度 × 单会话memory footprint，乘数放大

context window 从 32K → 256K → 1M，reasoning / test-time compute 的序列长度爆炸，未来还会继续增大。每个活跃会话常驻的 messages 随 context 长度线性增长

现在把两层乘起来。

第一层，CPU server 的 TAM，朝 2030~2031 看大概是 5–7 倍的量级(60B → 120B → 200B → 223B，我认为还会到 400B)

第二层，每颗 CPU 的 DRAM 配比，大概 3–4 倍(4~8GB → 16~32 GB/core)，但这个增长可能大部分是一次性红利

两个独立变量相乘，server 侧的 DRAM 需求是数量级的增长

2030年，即便按保守的300B CPU TAM，一个CPU core按$50来算，agent时代最保守按16GB/core，这算出来新增量最少都是96EB，而今年的DRAM总产量只有47EB，明年勉强60EB，这是非常惊人的增量

虽然这个agentic CPU带来的DRAM指数级增长，在第二层很大程度上是一次性红利，但持续时间会持续很久很久，因为这个短缺的缺口实在是太大了

—--------

回到文章开头那个框架。三个摆脱传统周期的条件里，第一条DRAM 定制化，基本可以忽略

而第二条：一个结构性指数级、而且很难逆转的需求来源是成立的。commodity DRAM 现在也具备了部分摆脱传统周期性的资格。没有 HBM(两条半)那么彻底，但已经是实质性的变化

第三条，技术迭代速度，DRAM的节奏也跟以前不一样了

因为以前的DRAM技术迭代速度是严重依赖消费电子的，DDR的进步对于performance用处并不大，但可预见的未来里，碳基消费的传统DRAM，会远远小于硅基消费（CPU服务器）DRAM的用量

以前DRAM的速度升级带来的边际效用是很低的，但现在因为CPU服务器对memory的需求增大，以及端侧AI对DDR速度的要求也增大，比如苹果为了跑本地大模型，LPDDR速度越来越快

速度升级的边际效用高了不少，所以DDR6和LPDDR6的速度迭代需求比以前提升了太大了，这在图里也可以看到，LPDDR6/DDR6的迭代时间缩短了，而且速度斜率，重新开始抬头

以前新一代DDR/LPDDR技术出来，大家的反应都很冷淡，等降价了才会用

而现在LPDDR6出来，各家恨不得都在抢着能尽量早上就尽量早，因为速度的提升带来的performance提升是触手可及的

------

另外，DDR 的供给还要被 HBM 额外抽一道税。HBM 每年的扩产速度太快，导致每年都有一批原本可以做 commodity DDR 的 wafer 被拉去做 HBM，而 HBM 的转换比极低，HBM3E 大约要 3 片 DDR wafer 的产能才能做出等量的 bit，HBM4 是4 片。所以每年大约有 3% 到 5% 的 DDR bit 增长，是被这个 HBM bit tax直接吃掉的

所以DRAM bit volume虽然未来每年能增长24%左右（14%来自wafer增长，9%来自每个wafer的DRAM密度增长），但算上HBM bit tax之后，传统的、非 HBM 的 commodity DDR，每年的 bit growth 大概只有 20%（约 10% 的 wafer 增长 × 约 9% 的 node density 提升）

—---------------------

中国长鑫扩产的影响有多大？如果不讲武德拼命扩产，会不会把这个市场重新带入周期泥潭？

长鑫这几年的扩产速度还是很快的，2025年还是每个月20万晶圆，2026年北京晶圆厂及新增生产线的贡献就能到32~35万。

正在建设中的上海工厂一期和二期，一期预计到2027年每月新增10万片晶圆产能，二期预计到2028年每月新增10万片晶圆产能，也就是说，2027年每个月42万晶圆，2028年能到每个月50万晶圆。

但需要注意的是，长鑫的dram bit 密度大概只有御三家的一半左右，所以长鑫的每个月50万晶圆wafer能产出的dram bit volume只有其他家的一半，这里计算wafer per month的时候，就按等效一半来算

把这个折扣打上之后，长鑫对整个DRAM行业的冲击还是小了很多，从2025年年底到2028年年底，长鑫对DRAM bit产能CAGR的影响大概只有1.5%，全行业的DRAM产能CAGR大概从12.7%升到14.2%

DRAM月产能(kwspm) 2025E → 2028E CAGR

Samsung 685K → 920K 10.3%
SK Hynix 519K → 725K 11.8%
Micron 340K → 560K 18.1%
非中国其他 150K → 218K 13.3%
中国(密度折半) 117K → 274K 32.8%
—————————————————
含中国总计 1811K → 2697K 14.2%
无中国总计 1694K → 2423K 12.7%

就算是长鑫未来还能保持增产速度，2030年对全行业等效产能每年DRAM bit volume增产CAGR的影响，大概也不到3%，从20% CAGR变成23% CAGR，仅此而已

另外，长鑫被光刻机所限制，而DDR6 需要更高速率（14400 MT/s 起步）和更高密度,御三家做 DDR6 大概率会用 1c 或更先进节点（~12nm 以下），已经全面用 EUV。长鑫可能会在DDR6上速率受限，密度也只有一半。

—----------------

即便是成长性周期，为什么DRAM的这轮超级周期会持续很长时间，起码五年看不到头？

第一个原因是，刚才谈到的CPU服务器需求端的巨量增长带来的结构性DRAM需求指数增长，这里结合DRAM供给端的bit volume CAGR大概稳定20%增长，就可以很清晰的看到，DRAM未来几年的缺口为什么越来越大：

非HBM的传统DRAM供给端大概是每年增长20%，而需求端，按2026年60B CPU TAM，每个CPU消耗DRAM平均8GB/core，每个core $30~35来算，需求是16EB

2030年按400B CPU TAM，每个CPU消耗DRAM平均16GB/core，每个core $80来算(CPU涨价超过一倍)，需求是80EB，这部分DRAM的增长CAGR大概是50%，远远超过目前的估算

不同于HBM是直接和token throughput挂钩，从而和GPU赚钱效率直接挂钩，DRAM不够对于agent flow的影响主要是速度，比如说，8GB/core和16GB/core比起来，部分workload速度可能降低30%，部分低价值task实在要等等也能忍，结构性指数增长的动机很强，但需求不如GPU那么刚性

Semianalysis说今年的DRAM缺口式个位数百分数，明年是超过10%。从agent CPU数量激增导致的DRAM结构性来看，这个缺口每年都会继续加大，在2030年之前看不到降低的可能

—----

另外一个DRAM能延续强势很久的逻辑是，因为DRAM涨价之后，被涨价消灭的那部分需求，不是真的消失了，只是延迟了，需求蓄水池太多了。

所谓蓄水池，是指那些"内存一旦降价就会立刻被释放出来的潜在需求"。它们的存在，意味着即便供给阶段性跟上了，价格也很难崩，因为总有新的需求从蓄水池里涌出来接盘：

内存换算力/速度是一个蓄水池：

有大量本来需要靠额外内存来优化速度和算力的需求，在内存太贵时被压着，一旦内存降价就会被释放出来。

比如 Nvidia的CPX prefill 加速，本来的设计初衷是用额外的低成本GDDR7，来做一个专门的prefill加速器，结果LPDDR/GDDR都太贵了，比涨价前的HBM还贵，这个方案的ROI就不划算了，但等到普通内存降价，这样类似CPX的优化方案就还会回来

低价值task是一个蓄水池：内存涨价导致token价格居高不下时，高价值的 task 被优先保留，低价值的 task 被延后；内存一降价，这些被延迟的需求就回来了。

端侧 AI 是一个蓄水池：AI PC 的内存配置可能从 24GB 一路涨到 128GB。苹果已经明确要求最新的端侧AI满血版需要从8GB升级到12GB内存

常规消费电子、Agent PC、低端手机，因为内存涨价而减少的需求，全都是蓄水池。

这么多蓄水池叠在一起，构成了一个极厚的需求缓冲垫。这就是为什么 DDR 这轮的结构性增长，后劲会比市场想象的要强。

—-----

还有一个DRAM价格很难大幅下降的原因在于，HBM和DRAM产能可以互相转换，所以整个DRAM complex是一起re-rate的

在上行期DRAM的利润率远超HBM，HBM的涨价幅度甚至变成了由DRAM去推动。今年新签约的HBM4的价格，就是当期DRAM的价格 x 4，也就是正常堆叠倍数对应HBM4的价格

一旦DRAM降价毛利下滑，因为HBM的长约透明性，利润率都是有保障的，HBM就会间接抽走更多的DRAM产能，HBM的降价也会让GPU厂商更有动力尽可能的升级HBM size，这样也间接保障了DRAM的价格地板

DRAM的结构性指数增长的需求有了，density scaling放缓扩产难度在增加，厂商扩产计划都很谨慎，长鑫这几年带来的影响也是有限的，再加上需求的蓄水池非常庞大，这四个原因导致了，在可预见的至少五年甚至更长时间内，DRAM是很难进入周期低谷的。

—--------------

NAND SSD有希望摆脱传统周期性吗？

NAND 的结构性增长动力没有 DDR 那么强，今年的缺货主要原因是几个主要玩家的生产纪律保持的很好，并没有大规模扩产，每年的产能增加主要来源于技术改进：NAND堆叠层数的增加

第一个结构性增长来自AI，主要来自 KV cache 的 offloading，把HBM溢出的warm/cold KV cache 卸载到 NAND SSD上。

但神奇的事情是，这个kv cache offloading的增长甚至还没有大规模发生，SSD就已经缺的比DRAM还严重了，涨价也比DRAM要更多。等到明年Rubin CMX放量，加上KV cache offloading大规模应用，SSD的缺货也会因为这个结构性增长而增长

第二个，另一个去年年度总结里说到的未来可期的AI视频带来的结构性增量，今年已经有出圈的态势了

Seedance体量在以一年十倍到四十倍的速度增长。目前它还卡在缺卡算力不足的阶段，需求被算力压着没完全释放。但等到缺卡阶段过去，AI 视频对NAND存储的结构性需求增长，会持续相当长的一段时间。

第三个结构性增长也同样来自于agent flow带来的Sandbox使用量的指数级增长，Sandbox为保障数据安全与隔离，如Analytical Agent 需为每个任务复制大量数据库和用户上下文，导致内存(DRAM)和CPU核心的严重浪费，同样会带来大量的SSD的浪费（需求）

第四个也许在2030年之后发挥作用的结构性增长，来自于HBF路线需要用到SSD，在不少投行分析中被寄予厚望，但这个技术路线还有些遥远，主要角色定位只能作为存放大模型的weights，写一次权重然后做只读，而且必须要和GPU/HBM封装在一起（48TBps/96TBps），否则靠PCIE7/8速度太慢完全无法用，只能说未来可期，下一篇AI半导体终局推演2026(III)会有更详细的分析

总之，NAND SSD的结构性增长没有HBM那么强，但是胜在便宜，价格到2027年也只有$0.8/GB，是同期DRAM的四十分之一，所以也算是多级缓存里的万金油属性，结构性增长来源太广泛了

也就是说，不存在DRAM/HBM单独涨价繁荣，而SSD不涨价的情况，因为如果这样的情况发生，那么大家就会想办法用SSD去承载DRAM/HBM的部分功能，用更低的成本实现类似的效果。HBM、DRAM、NAND 不是三个独立故事，而是同一 AI memory hierarchy 在不同温度层的结构性增长

结构性指数增长的需求有了，NAND SSD摆脱周期了吗？ 那么就要看NAND SSD厂家的生产纪律了，唯一可能不遵守生产纪律的，只有长存。毕竟这是一个囚徒困境，一旦有一家不讲武德拼命扩产，整个NAND产业要扩产的难度比DRAM简单的多。

但最起码的，这一轮NAND同样是超级周期，几个结构性指数增长带来的需求，下行期推迟到2030年问题不大

[RamenPanda @IamRamenPanda]

翻译：

内存本来就是周期性行业。

价格上涨时，大家都争相扩产，最终供给过剩导致价格崩盘。 这次不同，这是BofA的观点。

原因是供给弹性从结构上降低了。 资本、封装、电力、地缘政治——这四个因素都在拖后腿。

以美光为例，FY26年的资本支出计划超过250亿美元（FY25年为138亿美元，几乎翻倍），但这笔钱的绝大部分不是用于设备，而是用于洁净室的建设。

也就是说，必须先建厂房。

因此，实际产能有意义地增加要到2028年以后。 美光的爱达荷州工厂要到2027年中期才开始首批生产，2028年才全面投产。 即使想增加产能，也无法立即实现。

DRAM供需充足比率，即供给/需求比，将持续保持在110%以上直到2028年。 相比过去下行周期时曾跌至64%的水平，完全是另一番景象。

看不到供给大幅超过需求的区间。 因此，BofA认为ASP不会像过去下行周期那样急剧下跌。

HBM——AI推理让内存成为瓶颈。过去，AI计算中的瓶颈是计算能力。

现在，瓶颈是内存。 特别是在推理阶段。

原因可以这样解释。 当AI处理长上下文、同时接收多个用户、并进行多步推理时，模型会不断访问内存。 每次生成一个令牌，都需要访问模型权重和累积的缓存。

计算能力一旦为模型确定就固定了，但内存带宽会随着每个用户、每个查询、每个代理而不断增加。

更重要的是，AI模型的上下文窗口扩大的速度快于压缩技术跟上的速度。 即使软件上再怎么节省内存，原始需求增长得更快。

用数字展示需求。

HBM市场将从2025年的350亿美元增长到2030年的2460亿美元。

年均增长34%。

每个加速器所需的HBM容量将从2025年的187GB增加到2030年的464GB。

英伟达最新的Vera Rubin系统每个加速器使用288GB的HBM4。

再来看HBM价格。

2026年每GB 14.3美元，到2027-28年升至17.5美元。 内存不再是简单的零部件，而是AI系统的核心资产。

[James TT @JamesPandaVC]

@hongshen6666btc 韩国人这是为了赶紧踢完回家炒股啊