David Lin

[Sean子琦 @Seanzhao1105]

https://t.co/4gz6a6jOaK

[fin @fi56622380]

AI半导体终局推演2026(I)
当新token经济学范式从GPU算力转移到HBM

本文从从GPU架构进化路线本质出发，解释这个市场长久以来担心的问题:
每个GPU的HBM内存需求为什么一定会是指数增长，为什么HBM需求指数增长不会停滞?

并推导token经济学在当前架构下第一性原理:token吞吐 = HBM size X HBM BW带宽

同时讨论了，为什么GPU的天花板被HBM的两个发展维度所决定

HBM周期性这个话题争议一直很大，乐观派认为AI带来的需求比以前要大的多，但市场主流仍然认为前几次上升周期也有需求每年20%+增长，这次又有什么不一样呢？AI不影响HBM和传统DRAM一样有commodity属性，一旦在需求顶峰扩产遇上需求下行又会重蹈覆辙。

我们可以从算力芯片架构视角,从第一性原理出发，来拆解和推演一下这个问题：为什么这次真的不一样

-------------------------------
历史：CPU算力时代

很久以来，我们都处在CPU主导算力的时代，CPU的最高级KPI就是performance，跑的更快，所以每一代的CPU都用各种方法来提高跑分，最开始是频率上升，后来是架构演进superscaler等等

这个时候为什么DDR不需要很快的技术进步速度？比如DDR3到DDR5竟然经历了15年之久

因为这个时期的DDR的角色是纯粹的辅助，而且辅助功能极弱，以业界经验，DDR的速度即便是提高一倍，CPU的performance一般只能提高不到20%这个量级

为什么DDR带宽速度提高了用处不大？两个原因

1. CPU设计了各种架构去隐藏 DDR延迟，比如superscaler，加大发射宽度，用海量的ROB和register renaming来提高并行度隐藏延迟，一级缓存cache，二级缓存cache，削弱了DDR的带宽速度需求

2. CPU workload对DDR带宽要求并不高，大部分日常负载比如打开网页，DDR带宽是严重过剩的，甚至云端负载

也就是说，在CPU时代，DDR的带宽速度是不太有所谓的，DDR4和DDR5除了少数游戏就没啥差别，甚至JEDEC标准也进步缓慢。

另外，绝大部分app需要一直停留在DDR上的部分并不多,需要的时候从硬盘上调度到DDR即可，app的size增长没那么快，导致对DDR的容量需求也较为缓慢。

所以最近十年来，平均每台电脑上的DDR容量大概从7~8GB变成了23GB，十年只增长了3倍。

而这部分升级缓慢直接影响了营收，size容量计价是赚钱的主要方式，速度的提高只是技术升级，提高size的单价，这两个的升级需求都不大，需求主要是随着电脑/手机数量增长而增长

所以DRAM在带宽速度和容量这两个维度上，一直是都是芯片产业锦上添花性质的附属品，DDR升级带来的边际效用是很低的，跟CPU时代的最高KPI几乎没什么直接联系

--------------------------------------------
而到了genAI 大模型为主导的新时代，计算范式转移让最高级KPI起了根本变化

GPU发展到AI推理的时代，不再像CPU那样只看跑分，最高级的KPI不再是算力TOPS/FLOPS，而是token的成本，特别是单位成本/单位电力下的overall token throuput

其次是token吞吐速度，因为在agent时代，很多任务变成了串行，token吞吐速度成了用户体验的重要瓶颈。

这也是为什么老黄发明AI工厂概念的原因：最低成本的输出最多token，同时尽量提高token吞吐速度

AI训练时代，老黄的经济学是TCO(total cost ownership)，买的GPU越多，省的越多

而老黄在推理时代的token经济学是：

AI推理的毛利润很可观，所以逻辑已经转换成：Nvidia GPU是这个世界上让token单价最便宜的GPU，买的GPU越多，赚的越多

最高的KPI变成了Pareto frontier曲线，在提高token 吞吐throughput和提高token速度两个维度上尽量优化
（见图一）

NVIDIA 的 token factory 代际进步，其实是在把整条 Pareto frontier 往右上推，这就是是AI推理这个时代最重要的KPI

----------------------------------

接下来是本文最重要的逻辑链，如何从token吞吐量指数型增长的本质出发，推导出天花板瓶颈在HBM size和HBM 带宽的指数型增长

单卡GPU推理单线程batch size = 1的时代，token吞吐只有一个维度，就是HBM的带宽速度，带宽速度越高，token吞吐越大

但进入NVL72的年代，推理不再是单卡GPU时代，而是72个GPU + 36个CPU整个系统级别的token工厂，把HBM带宽和算力用满，获得极致的token吞吐量

Token 吞吐throughput的增长，依赖两个东西：同时批处理的请求数 X 每个user请求的平均token速度

也就是batch size X per user token 速度

以Rubin NVL72为例，在平均token速度是100 token/s的情况下，同时批处理1920个请求，得到token吞吐量是19.2万token/s 一个Rubin NVL72大概是120KW（0.12MW）的功率，所以得到单位MW能处理1.6M token/s

（见图一）

所以，我们需要想方设法提高这两个参数：批处理数量batch size和per user token的平均速度，这两者相乘就是我们的最高KPI，也就是token的吞吐量

-------
第一个参数：batch size的增长，瓶颈在HBM size

批处理量里的每一个请求req，都会自带kv cache，这部分kv cache是需要存在HBM里的，大小大概在几个GB到数十GB不等 因为hot kv cache是随时需要高频高速读取，所以必须放在HBM里，比如一个大模型的层数是80层，那么每一个token的生成阶段，都需要读取80次HBM里的kv cache

随着批处理数量batch size的增长，会带来hot kv cache的线性增长

又因为这个批处理量的所有请求的hot kv cache，都要放在HBM上，这也就带来了HBM size必须要随着批处理量batch size线性增长

就像是机场接驳车，登机口尽量快的接旅客到飞机，HBM size小了，相当于接驳车size小了，就得多接一趟

结论是：批处理量的数量batch size，瓶颈依赖于HBM size的增长

---------
第二个参数：每个user请求的平均token速度，瓶颈在HBM带宽

大模型decode阶段的速度，瓶颈取决于HBM的带宽速度，因为每生成一个 token,都要把激活的权重和kv cache 读很多遍

LPU的出现，在batch不那么大的情况下，把激活权重这个部分搬到了SRAM上，但是每生成一个 token仍然要从HBM读很多次KV cache。HBM带宽越高，生成每一个token的速度也就越快，基本上是线性对应的

就像是机场接驳车，登机口尽量快的接旅客到飞机，hbm本身带宽速度就像是接驳车的车门有多宽，门越宽，旅客上接驳车越快

GPU的其他配置，都是在适配batch的增长以及要让token compute的速度配平HBM的增长，甚至会用多余的算力来获得部分的带宽（比如部分带宽压缩技术）

—-----
在那个接驳车的比喻例子里

接驳车的车厢大小 = HBM Size（容量）： 决定了一次能装下多少名旅客（也就是能同时装下多少个请求的 KV Cache）。车厢越大，一次能拉载的旅客（Batch Size）就越多。如果车太小，想拉100个人就得分两趟，系统整体的吞吐量就上不去。

接驳车的车门宽度 = HBM Bandwidth（带宽）： 决定了旅客上下车的速度。门越宽，大家呼啦啦一下全上去了（Decode/生成Token的速度极快）。如果门很窄，哪怕车厢巨大能装200人，大家也得排着队一个一个挤上去，全耗在上下车的时间里了。

旅客的吞吐量 = 接驳车车厢容量 x 接驳车旅客上车速度(车门宽度)

—---------------------------

至此，我们从逻辑上推演出了token经济学的硬件需求第一性原理：

Token throughput = HBM size X HBM Bandwidth
AI推理这个时代的最高KPI，实际上是高度依赖于HBM的两个维度的进步的

如果要维持token throuput每一代两倍的增长，实际上意味着，每一代的单GPU上，HBM size X HBM BW带宽之积要增长两倍！

这也是历史上第一次，HBM内存的size可以影响最高的KPI token throughput！

要验证这个理论，可以把Nvidia从A100到Rubin Ultra这几代的token 吞吐throughput，和HBM size X HBM BW 放在同一个图里比较
（见图二）

可以发现，这两个曲线的走势在对数轴上惊人的一致

HBM size x HBM带宽增长的甚至要比token吞吐量更快，毕竟HBM决定的是天花板，实际上这个天花板增长的利用率utilization是很难达到100%的，也就是说，HBM size x HBM 带宽就算增长1000倍，其他算力和架构的配合下，很难把这1000倍的天花板潜力全部榨干

这条曲线不是巧合，而是系统最优化的必然解

throughput = batch × Bandwidth，这就是token factory 经济学最绕不开的第一性原理

—--------
软件的影响呢？软件的优化会不会降低带宽的需求？降低HBM的需求？

这跟硬件是独立两个维度的，这好像在问，如果CPU上的软件优化了之后跑的更快，是不是CPU就十年不用发展了？反正软件跑的更快了嘛

这样的话，CPU厂还能赚得到钱吗？CPU想要存活下去，只有一条路可走，在标准benchmark，不考虑软件优化，每一代CPU必须要跑分更高，不然就卖不出去
GPU也是一样，软件优化如何，和自己的token吞吐量KPI每年都要大幅进步，是两回事

只要token的需求继续增长，对token throuput的追求就绝不会停止，那么对HBM size X HBM 带宽的追求也不会停止

如果HBM size和HBM 带宽发展慢了，老黄一定会亲自到御三家逼着他们技术升级，因为这就是老黄gpu的天花板，天花板要是钉死了不进步，老黄的GPU还能卖出去吗？

当然了，Nvidia需要绞尽脑汁去从异构计算的架构角度榨取HBM天花板之外的部分，比如LPU就是一个很好的尝试，把Pareto frontier从另一个角度改善了很多 （右半边高token速度的部分）

—--------------------------------------

HBM内存已然告别了那个随波逐流的旧时代，在这条由指数级需求铺就的单行道上，以一种近乎宿命的方式走到了产业史诗的主舞台中央

推理范式第一性原理演化到这一步，只要老黄还要卖GPU，HBM就必须翻倍，而且必须代代翻倍。这是supply side的内生压力，与AI需求无关，与宏观周期无关，与hyperscaler的心情也无关

剩下的问题，只有一个：

当需求被物理锁定为指数增长的时候，供给侧的三个玩家，会不会还像过去三十年那样，亲手把自己再拖回一次周期的泥潭？

[LEI @TheMarketMemo]

價量關係
首先掌握一個概念：成交量就是市場分歧——有大量的人願意賣出、同時有大量的人願意買入。

在期貨交易上，成交量可以理解為多空雙方交火之後的傷亡數量，期貨持倉量則可以理解為多空雙方對壘的屯兵量。

[柴郡🔔｜Crypto+AI Plus @0xCheshire]

10 个帮助你掌握 AI 的全新 YouTube 视频：

1. Claude Code 进阶课程：
https://t.co/9UGyBOYaK8

2. 关于 AI 机遇的一切：
https://t.co/1s2GaHF8Zz

3. 企业真正需要的 AI 工作流：
https://t.co/gNC2LXU94L

4. 如何在 2026 年构建并销售 AI 智能体：
https://t.co/gNC2LXU94L

5. 如何利用 AI 打造一人企业：
https://t.co/XKh61RHJKA

6. Claude Code + Codex：
https://t.co/cudhIz2vje

7. 如何开创你的 AI 网红事业：
https://t.co/qtjf4VQvTP

8. 如何开展 AI 营销：
https://t.co/dYBWCxw76d

9. Claude Code + Paperclip：
https://t.co/3BZ0J0J2Pj

10. 如何在 30 天内借助 AI 打造盈利的个人品牌：
https://t.co/AU9krXjBKL

[Tw93 @HiTw93]

https://t.co/x9eqpjrSuS

[qinbafrank @qinbafrank]

英伟达老黄在GTC大会上都说了什么？
看了下演讲全文，感觉这次老黄不只是在卖芯片，而是在卖一个全新世界观：AI 不是工具，不是应用，而是人类下一个工业革命的能源+发动机。AI 是新时代的电力 + 发动机，Token工厂、AI代理智能体、物理AI 共同构成基础设施。梳理下要点：

1. 第一性原理：AI 的本质重新定义（别再当它是“聪明App”了）
老黄认为
1）AI 不是单一模型突破，也不是“会聊天”的玩具，而是像电力一样的核心基础设施。
2）每个公司都会用，每个国家都会建，不建就落后，就像19世纪不建电厂一样。
2）计算需求过去两年已增长“一百万倍”，且还在指数级加速。

老黄更是给了一个炸裂的前瞻指引，预计到2027年，仅英伟达这些旗舰芯片（Blackwell + Vera Rubin 系列）就能贡献至少1万亿美元营收。”（比之前市场预期的5000亿翻倍，时间拉长一年但金额更狠）

这已经不是简单的财报指引，是给全球CEO和国家元首的最后通牒：你们不投AI工厂，我们就帮别人建。

2. Token工厂：数据中心的新物种
老黄把数据中心彻底改名——不再是存数据的仓库，而是生产智能代币的工厂。CEO 现在要像管传统工厂一样管“代币产出率”和“单位代币成本”。英伟达通过全栈垂直整合，已经把单位代币成本做到全球最低。

这就是工业化拐点：AI 从实验室玩具 → 国家级重资产基础设施。

投资视角来看，这会让“AI基建”概念彻底主流化，能源、冷却、网络、光模块、液冷、变压器等全产业链都会被重估。别只盯着GPU，看“Token工厂”全链条。

3. Vera Rubin 平台：下一代AI工厂的完整蓝图
Rubin不是单颗芯片，是垂直整合的7大芯片 + 5个机架级系统 + 1个超级计算机*。

他的亮亮点在于：
1）Vera CPU（专为Agent优化）、全液冷、Groq确定性流式推理 + Dynamo解耦、吉瓦级工厂代币生成速度提升350倍。
2）大规模光电共封装（CPO）、硅光子，目标百万卡集群、低功耗低延迟。

老黄原话这么说：“Vera Rubin 不是芯片，而是一个巨型系统，从能源到端到端全优化。”

这其实在告诉对手和客户：英伟达已经把“AI发电厂”的参考设计做出来了，你们直接抄作业就行（当然得用我们的零件😎）

4. Agentic AI + OpenClaw：下一个十年的操作系统级革命
OpenClaw在这次GTC上被老黄定义为“AI时代的Linux”——开源、底层框架，让Agent自主调用工具、写代码、管理文件。

老黄宣布NewClaw企业版平台，现场“极简养虾”demo（一键让AI代理管复杂养殖流程），象征极简部署 + 自主执行。

老黄更是明确说，今天世界上每一家公司都必须制定OpenClaw策略。同时推Nemotron开放模型联盟（语言、视觉、机器人、生物、气候等全覆盖），开放生态才是王道。

这是在逼所有企业从SaaS转向AaaS（Agent as a Service），代理框架、工具链、隐私护栏相关公司会爆。开源+企业级双轮驱动，类似于当年Android的打法。

5. Physical AI + 机器人：从数字到物理的ChatGPT时刻
老黄认为物理AI迎来爆发：不再是屏幕里的智能，而是能真正作用于现实世界。他聊到Robotaxi Ready新增比亚迪、现代、吉利等，覆盖1800万辆/年 + Uber大规模部署。

现场迪士尼Olaf雪宝机器人直接登台，展示Omniverse数字孪生 + Newton物理引擎，从虚拟直接迁移到物理适应。

老黄说机器人会成为数万亿美元市场，而物理AI是下一个大爆炸的领域。当然我们自己也需要清楚，物理世界落地比数字难100倍，但一旦起飞，体量远超纯软件。关注端到端（感知-决策-执行）全链公司。

6. 更远的下一代 + 未来场景（Feynman + 太空）
1）预告Feynman架构：Rosa CPU、LP40 LPU（推理专用）、BlueField-5、CX10网络等。
2）太空数据中心：Vera Rubin Space-1轨道AI计算机，用Omniverse建“数字孪生”太空基建。

这一次老黄呼应了老马，英伟达不只是地球算力霸主，还想做太空AI基础设施。

老黄这次演讲核心就是
AI 是新时代的电力 + 发动机，Token工厂、AI代理智能体、物理AI 共同构成基础设施。英伟达提供从能源到芯片的全栈钥匙，这个市场到2027年带给英伟达至少万亿美元营收。

[勃勃OC @bboczeng]

好的，我全部All In了

谢谢你：

光子学：$AAOI $AXTI $LITE $TSEM
空间基础设施：$RKLB $ASTS
新云计算：$IREN $NBIS $CIFR
内存芯片：$MU $SNDK
防御科技：$ONDS $AVAV $KTOS
机器人：$KRKNF $SYM $TSLA
AI能源：$BE $OKLO $SMR

[大宇 @BTCdayu]

太惊人了，历史不是押韵，是在复制粘贴
1、均是减半后约200天开启牛市
2、减半后牛市均走同样约480天
3、牛市双顶结果也几乎一致
4、而当前位置即是上轮牛市3万的位置

上轮3万时：
用250天，下跌近50%，至1.6万附近
用250天，回到3万，开启牛市

我觉得规律要打破了，不可能回到3万。

[David Lin @DavidLin01]

@BensonTWN 恭喜發財班森當爸了😻

[David Lin @DavidLin01]

@BensonTWN 感謝班森回覆，228來試試看

[David Lin @DavidLin01]

@BensonTWN 想詢問班森，如果要跑open claw 是不是要買一台獨立Mac mini 回比較好

[MandyWang @mandywangETH]

https://t.co/QpSPQvC2Rd

[憨厚的麦总 @Michael_Liu93]

应该算是这轮比较坚定的明牌喊空的声音之一，9月降息前公开大币仓位清了一半，剩余仓位也在降息落地后都清了，中途也一直在发帖和劝身边的朋友不要抄底，今天聊聊我想什么时候抄底吧。
首先，我对今年资本市场是悲观的，虽然美国在降息，但很明显这个降息是非常克制的，缩表的动作也应该会在新的美联储主席上任后继续。

原因是什么？

因为钱实在太多了，我不知道大家有没有思考过一个问题，为什么黄金和美股会同时上涨？且都上涨这么多？

如果你是金融专业毕业的或上过几节金融课，教科书应该教过你，黄金是负Beta的资产，跟权益类资产的相关性应是负的（在健康的通胀环境下，资本是一定先去有现金流的权益性资产，这也是为什么过去二三十年黄金并没有跑赢美股）

但钱太多，美元在贬值。全球避险资金在逃离美元冲黄金，而AI技术创新又一直驱动着美股，美元风险资金在冲股票（这个割裂的现象在Ray Dalio前几天发布的年度信中也有提及）

美联储首要保的一定是货币，而保货币的这个过程又注定是抽离流动性的，所以我并不觉得今年流动性会变好，反而抽离流动性的过程会不会把AI泡沫给戳了也不好说

所以基于“今年流动性并不会很好”的前提，叠加4年周期，我今年是继续看熊的。

什么时候我会抄底建长期仓位？
1. 我要看到二级市场绝对的大额换手交易量（Capitulation Volume），通常是某一两个大玩家爆了，这在过去两轮周期的绝对底部都出现过
2. 我要看到MVRV-Z score至少跌到0（我抄底长期仓位看的最多的指标，本质上也是长期超卖指标），上轮跌到了-0.36，再上轮跌到了-0.48，今天这个数字是0.77
3. 我要看到投降性事件（上轮的FTX、再上轮的BCH分叉都是标准的“BTC投降性”事件）

就像半年前没人觉得BTC会去7w多，现在说会去4w也还为时尚早，但做足最坏打算，再跌个40-50%也并不是不可能，行情是走出来的，上面三点条件满足了我也会再满仓梭进去。

希望下轮周期你们都还在

[BITWU.ETH 🔆 @Bitwux]

1.2 亿浏览量证明了一件事：这个时代，确定性比真理值钱

Dan Koe 启示录第二弹，
内容创作者必看，
我想说的是：
用户真正买单的不是知识，
而是「确定性幻觉」！

1.2亿的浏览量恰好说明
人们最愿意消费的，
是把失控生活重新变成可控的那种方法论。

Dan Koe 很聪明，
他这篇踩中了 ，
X 这种平台的传播结构 + 人群的集体焦虑。

它说明了几件事：

1️⃣用户真正买单的是「确定性幻觉」

标题是 How to fix your entire life in 1 day——
不是“让你变好一点”，而是“1 天修好你整个人生”。

这类标题本质上在卖三样东西：

低成本：1 天；
高回报：整个生活；
可执行感：不是哲学，是步骤。

吗的，这还不吸引人吗？

内容创作者真应该好好学习下，在信息过载时代，最稀缺的不是知识，是“我照做就会好”的确定性，所以如果你的内容，让人有这种感觉，你还会缺少流量吗？

2️⃣它击中了大众的“年初窗口期”情绪

1 月份是一个平台级的流量窗口：

其实 X 上所有人都在焦虑、后悔、立 flag、想变强，但又讨厌“新年计划”那种虚伪感。

Dan Koe 的开头等于在说：“你讨厌新年计划？我也讨厌。但是，你他娘的不是懒，你只是方法错了，那什么是正确的方法，别急我给你方法论。”

这会让读者立刻产生身份认同：我不是废物，是没找对路，而这个大神可以给我指引路。

3️⃣它是典型的「可转发内容」：让转发者看起来更聪明

人们转发并不只是觉得有用，而是因为：
转发这篇文章 = 我在认真生活 / 我在自我升级；
还没做到也没关系，转发就完成了一半“自我形象管理”，

这玩意转发后就会给人一种我很牛逼的感觉，虚荣心满满的，不转发显得像噶傻子，所以很不好意思，我也转发了，而且转发的时候我并没看懂。

这种内容天然适合病毒式传播：读者转发是在表达自己，不是在表达作者。

4️⃣它把“复杂问题”压缩成“可操作清单”

修复生活这种事复杂到让人绝望。而清单/框架型文章的价值在于：把混乱压成几个按钮。

你会发现这类内容爆的共同特征：

问题巨大（人生、财富、健康、关系）；
切法简单（一天、三步、五条）；
读完立刻能做点什么（哪怕只做 10%）。

这家伙就类似于给你一个武林秘籍的操作手册，让你很快练习后就能单挑乔峰一样，卧槽太绝了。

5️⃣说明平台上的主流需求：不是资讯，是“自救”

X 上每天都是宏观、AI、币价、观点撕逼。但一个亿浏览量说明：大量沉默用户其实在找“怎么过好这一生”。

也就是说：
观点内容能吸引讨论；
但“自我修复/人生操作系统”能吸引最大盘的普通人。

再简单点说：大家在 X 是来寻找他们心目中的“神”的，他们希望找到一个可以依靠的大神，你如果是这个神，或者看起来是个神，他们就会趋之若鹜。

6️⃣对我有什么启发？

如果我，或者我们这类，内容创造者，想要更大范围的传播（不只 crypto 圈），可以把我们擅长的“周期、纪律、能量管理、资产配置”包装成：

大问题：普通人如何不被时代碾碎？
短路径：7 天 / 1 小时 / 3 个动作；
强承诺：至少让你从焦虑回到可控；
可转发的身份表达：转发=“我在认真做长期主义的人”

接下来我会做一些测试，拭目以待吧！

[David Lin @DavidLin01]

@berryxia_ai DM 感謝

[DiscusFish @bitfish]

10月11日USDE脱锚事件复盘：连环清算引发市场震荡 👉https://t.co/OJd6hpeDCw

[Arthur Hayes @CryptoHayes]

“Long Live the King!” an essay on why the $BTC 4yr cycle is dead.

https://t.co/7RldfQVqT5

[David Lin @DavidLin01]

@BensonTWN 恭喜班森了

[thiccy @thiccyth0t]

https://t.co/cEvsHIHA0Z