dellal1973

[Jinx @Jinx_Yxurself]

The next 12–18 months will be life changing.

$BTC will reach $250,000

$ETH will break $8,000

$XRP will hit $5

$ZEC will explode towards $5,000

Patience will change lives 🤝

[dellal1973 @dellal1973]

@iamai_omni 没上市啊

[dellal1973 @dellal1973]

@rickawsb 太厉害👍

[dellal1973 @dellal1973]

行情在怀疑+可怕中延续？还是结束？

[rick awsb ($people, $people) @rickawsb]

去年9月第一条关于美光的推，建仓mu、wdc、sndk，至今已半年，储存已成第一仓位

当时的看法是储存至少10倍涨幅

但站在今天来看，储存可能仍有10倍，而且可能还不止

逻辑看我刚转的 @fi56622380，@QihongF44102 两位大神的推

验证就看过去半年，从提示词工作流agentic到三次token需求的指数跃迁

这是显而易见，但市场仍视而不见的趋势

[iPaul @iPaulCanada]

美加边境，男孩玩耍时穿过一个单向旋转门，误从美国进入了加拿大，回不来了！

按规定，孩子现在必须通过海关才能返回美国，但是孩子身上沒有任何文件，父亲急了。

后续 加拿大边境官员查看监控，确认属于意外过境，联系父母，验证身份，孩子被快速送回美国，也没收费。

加拿大边境官員受过严格培训，也被赋予了一定的自由裁量权（Discretion）。执法并保持温度，这也是一张友善的国家名片❤️

[dellal1973 @dellal1973]

转

[rick awsb ($people, $people) @rickawsb]

财报前瞻：

明天是美股的大日子，微软google亚马逊meta四大科技公司财报。这是ai板块的moment of truth 时刻

这轮大科技财报，核心只看一件事：AI投入，是否已经开始转化为可解释CapEx的现金流，且在快速增长。

财报恰逢美股回调，最近这波回调，本质就是涨多了，美股已经历史性的18连涨；指数高度集中，权重股波动被放大；预期已经被相对充分消化，任何新增变量都会触发获利了结。

但AI需求很强，而且还在加速，主要来自头部AI公司、大科技自身以及部分高价值客户；供给受GPU、电力、数据中心等物理约束，扩张明显滞后；供需缺口巨大，并且仍在继续扩大。
高端算力持续紧张，资源向高价值客户集中，AI相关收入能力在提升。

但市场已经多少了解这些信息，真正要看的，是需求能不能持续穿透供给约束，转化为收入，再转化为现金流。

判断需要基于三点
第一，收入有没有持续兑现，看云业务、AI收入、usage增长；
第二，增长有没有加速，看客户数、调用量、单位价值是否在提升；
第三，现金流有没有进入上升通道，而且斜率是否在变陡，这是最关键的一点。

这些是目前对市场来说，比CapEx重要的多的指标。
因为只有现金流增长，才能支持CapEx继续增长，才是正循环。反之市场又会陷入支出恐惧，参考昨天的amkr财报后股价表现。

免责声明：本人持有文中提及的标的，观点必然偏颇，文章内容非投资建议，股票投资风险巨大，入场需极度谨慎

[Gublo🇨🇦 @Gubloinvestor]

Another day $Sivef up 9%.. we need good $Sivef day

[dellal1973 @dellal1973]

转

[AI产业挖掘🐔 @QihongF44102]

被低估的真相：Agentic AI 是一场以"存储"为中心的范式革命
1/ 一句话观点 Agentic AI 的核心，不是算力，是记忆。 新硬件层级正在变成： ① 记忆（HBM / DRAM / NAND） ② 并行计算（GPU / ASIC） ③ 协调者（CPU） CPU 早就不再承担主要计算逻辑。

2/ 第一性原理 人类对"智能"的终极追求只有两件事： 无限记忆 + 无限计算。 我们日常评价一个人聪不聪明，无非两点： "记性好" + "脑子转得快"。 机器智能在沿着同一条路前进。

3/ 先说市场已经讲过的故事：HBM LLM 推理的 decode 阶段是典型的 memory-bound 任务。 每生成一个 token，都要把整套 KV cache 从显存里搬一遍。 带宽不够 → 昂贵的 GPU 直接闲置。 这就是为什么 GPU 每升一代，HBM 的带宽和容量都在追着涨。

4/ 市场没怎么讲的故事：1M context 不是在 GPU 集群里组装的 我们天天说的"1M context"，并不是在 AI 推理集群中拼出来的。 它的真正组装地点，是 跑 Agentic 系统的传统服务器（CPU + 大 DRAM）。

5/ 那些传统服务器在做什么？ • 加载用户的长期 / 短期记忆 • 加载 agent 的系统规范（system prompt） • 加载 skill / tool / subagent 的说明 • 拼到超过 1M token 时，还要做压缩 这一整套，全部跑在 Agentic 服务器的 DRAM 里。

6/ 对比过去的互联网 / 移动互联网 过去几乎不处理用户上下文。 只有搜索 / 推荐 / 广告才会留一点用户画像， 数据量大概只有现在 Agentic 系统的 1/20，甚至 1/100。

7/ 供应链已经在反映这件事 服务器的 CPU : DRAM 配比，正从 传统的 1 core : 4 GB 升级到 1 : 16，并继续往上走。

8/ 但远不止"4 倍存储"那么简单 Agentic 状态下，单颗 CPU 能服务的用户数，只有过去的几分之一。 当整个 IT 都切到 Agentic： • CPU 数量：增长 几倍 ~ 十几倍 • DRAM 总量：增长 几十倍 ~ 上百倍

9/ 结论 Agentic AI 是一次以 "存储 + 并行计算" 为核心的范式迁移。 软件范式变了，硬件范式也跟着变。 只有真正读懂技术的人，才会理解： 这一轮存储不是周期，是范式。

10/ 时间维度 考虑到： • 人群渗透率还很低 • 单用户使用深度还很浅 未来至少 5 年，看不到这轮存储需求的周期顶部。 （拉长时间看万物皆周期，但这一轮远没到拐点）

$MU $DRAM $SNDK

[rick awsb ($people, $people) @rickawsb]

本季度，甚至可能是今年最重要的财富密码，
请先赞，再转，然后仔细阅读

[dellal1973 @dellal1973]

转

[fin @fi56622380]

AI半导体终局推演2026(I)
当新token经济学范式从GPU算力转移到HBM

本文从从GPU架构进化路线本质出发，解释这个市场长久以来担心的问题:
每个GPU的HBM内存需求为什么一定会是指数增长，为什么HBM需求指数增长不会停滞?

并推导token经济学在当前架构下第一性原理:token吞吐 = HBM size X HBM BW带宽

同时讨论了，为什么GPU的天花板被HBM的两个发展维度所决定

HBM周期性这个话题争议一直很大，乐观派认为AI带来的需求比以前要大的多，但市场主流仍然认为前几次上升周期也有需求每年20%+增长，这次又有什么不一样呢？AI不影响HBM和传统DRAM一样有commodity属性，一旦在需求顶峰扩产遇上需求下行又会重蹈覆辙。

我们可以从算力芯片架构视角,从第一性原理出发，来拆解和推演一下这个问题：为什么这次真的不一样

-------------------------------
历史：CPU算力时代

很久以来，我们都处在CPU主导算力的时代，CPU的最高级KPI就是performance，跑的更快，所以每一代的CPU都用各种方法来提高跑分，最开始是频率上升，后来是架构演进superscaler等等

这个时候为什么DDR不需要很快的技术进步速度？比如DDR3到DDR5竟然经历了15年之久

因为这个时期的DDR的角色是纯粹的辅助，而且辅助功能极弱，以业界经验，DDR的速度即便是提高一倍，CPU的performance一般只能提高不到20%这个量级

为什么DDR带宽速度提高了用处不大？两个原因

1. CPU设计了各种架构去隐藏 DDR延迟，比如superscaler，加大发射宽度，用海量的ROB和register renaming来提高并行度隐藏延迟，一级缓存cache，二级缓存cache，削弱了DDR的带宽速度需求

2. CPU workload对DDR带宽要求并不高，大部分日常负载比如打开网页，DDR带宽是严重过剩的，甚至云端负载

也就是说，在CPU时代，DDR的带宽速度是不太有所谓的，DDR4和DDR5除了少数游戏就没啥差别，甚至JEDEC标准也进步缓慢。

另外，绝大部分app需要一直停留在DDR上的部分并不多,需要的时候从硬盘上调度到DDR即可，app的size增长没那么快，导致对DDR的容量需求也较为缓慢。

所以最近十年来，平均每台电脑上的DDR容量大概从7~8GB变成了23GB，十年只增长了3倍。

而这部分升级缓慢直接影响了营收，size容量计价是赚钱的主要方式，速度的提高只是技术升级，提高size的单价，这两个的升级需求都不大，需求主要是随着电脑/手机数量增长而增长

所以DRAM在带宽速度和容量这两个维度上，一直是都是芯片产业锦上添花性质的附属品，DDR升级带来的边际效用是很低的，跟CPU时代的最高KPI几乎没什么直接联系

--------------------------------------------
而到了genAI 大模型为主导的新时代，计算范式转移让最高级KPI起了根本变化

GPU发展到AI推理的时代，不再像CPU那样只看跑分，最高级的KPI不再是算力TOPS/FLOPS，而是token的成本，特别是单位成本/单位电力下的overall token throuput

其次是token吞吐速度，因为在agent时代，很多任务变成了串行，token吞吐速度成了用户体验的重要瓶颈。

这也是为什么老黄发明AI工厂概念的原因：最低成本的输出最多token，同时尽量提高token吞吐速度

AI训练时代，老黄的经济学是TCO(total cost ownership)，买的GPU越多，省的越多

而老黄在推理时代的token经济学是：

AI推理的毛利润很可观，所以逻辑已经转换成：Nvidia GPU是这个世界上让token单价最便宜的GPU，买的GPU越多，赚的越多

最高的KPI变成了Pareto frontier曲线，在提高token 吞吐throughput和提高token速度两个维度上尽量优化
（见图一）

NVIDIA 的 token factory 代际进步，其实是在把整条 Pareto frontier 往右上推，这就是是AI推理这个时代最重要的KPI

----------------------------------

接下来是本文最重要的逻辑链，如何从token吞吐量指数型增长的本质出发，推导出天花板瓶颈在HBM size和HBM 带宽的指数型增长

单卡GPU推理单线程batch size = 1的时代，token吞吐只有一个维度，就是HBM的带宽速度，带宽速度越高，token吞吐越大

但进入NVL72的年代，推理不再是单卡GPU时代，而是72个GPU + 36个CPU整个系统级别的token工厂，把HBM带宽和算力用满，获得极致的token吞吐量

Token 吞吐throughput的增长，依赖两个东西：同时批处理的请求数 X 每个user请求的平均token速度

也就是batch size X per user token 速度

以Rubin NVL72为例，在平均token速度是100 token/s的情况下，同时批处理1920个请求，得到token吞吐量是19.2万token/s 一个Rubin NVL72大概是120KW（0.12MW）的功率，所以得到单位MW能处理1.6M token/s

（见图一）

所以，我们需要想方设法提高这两个参数：批处理数量batch size和per user token的平均速度，这两者相乘就是我们的最高KPI，也就是token的吞吐量

-------
第一个参数：batch size的增长，瓶颈在HBM size

批处理量里的每一个请求req，都会自带kv cache，这部分kv cache是需要存在HBM里的，大小大概在几个GB到数十GB不等 因为hot kv cache是随时需要高频高速读取，所以必须放在HBM里，比如一个大模型的层数是80层，那么每一个token的生成阶段，都需要读取80次HBM里的kv cache

随着批处理数量batch size的增长，会带来hot kv cache的线性增长

又因为这个批处理量的所有请求的hot kv cache，都要放在HBM上，这也就带来了HBM size必须要随着批处理量batch size线性增长

就像是机场接驳车，登机口尽量快的接旅客到飞机，HBM size小了，相当于接驳车size小了，就得多接一趟

结论是：批处理量的数量batch size，瓶颈依赖于HBM size的增长

---------
第二个参数：每个user请求的平均token速度，瓶颈在HBM带宽

大模型decode阶段的速度，瓶颈取决于HBM的带宽速度，因为每生成一个 token,都要把激活的权重和kv cache 读很多遍

LPU的出现，在batch不那么大的情况下，把激活权重这个部分搬到了SRAM上，但是每生成一个 token仍然要从HBM读很多次KV cache。HBM带宽越高，生成每一个token的速度也就越快，基本上是线性对应的

就像是机场接驳车，登机口尽量快的接旅客到飞机，hbm本身带宽速度就像是接驳车的车门有多宽，门越宽，旅客上接驳车越快

GPU的其他配置，都是在适配batch的增长以及要让token compute的速度配平HBM的增长，甚至会用多余的算力来获得部分的带宽（比如部分带宽压缩技术）

—-----
在那个接驳车的比喻例子里

接驳车的车厢大小 = HBM Size（容量）： 决定了一次能装下多少名旅客（也就是能同时装下多少个请求的 KV Cache）。车厢越大，一次能拉载的旅客（Batch Size）就越多。如果车太小，想拉100个人就得分两趟，系统整体的吞吐量就上不去。

接驳车的车门宽度 = HBM Bandwidth（带宽）： 决定了旅客上下车的速度。门越宽，大家呼啦啦一下全上去了（Decode/生成Token的速度极快）。如果门很窄，哪怕车厢巨大能装200人，大家也得排着队一个一个挤上去，全耗在上下车的时间里了。

旅客的吞吐量 = 接驳车车厢容量 x 接驳车旅客上车速度(车门宽度)

—---------------------------

至此，我们从逻辑上推演出了token经济学的硬件需求第一性原理：

Token throughput = HBM size X HBM Bandwidth
AI推理这个时代的最高KPI，实际上是高度依赖于HBM的两个维度的进步的

如果要维持token throuput每一代两倍的增长，实际上意味着，每一代的单GPU上，HBM size X HBM BW带宽之积要增长两倍！

这也是历史上第一次，HBM内存的size可以影响最高的KPI token throughput！

要验证这个理论，可以把Nvidia从A100到Rubin Ultra这几代的token 吞吐throughput，和HBM size X HBM BW 放在同一个图里比较
（见图二）

可以发现，这两个曲线的走势在对数轴上惊人的一致

HBM size x HBM带宽增长的甚至要比token吞吐量更快，毕竟HBM决定的是天花板，实际上这个天花板增长的利用率utilization是很难达到100%的，也就是说，HBM size x HBM 带宽就算增长1000倍，其他算力和架构的配合下，很难把这1000倍的天花板潜力全部榨干

这条曲线不是巧合，而是系统最优化的必然解

throughput = batch × Bandwidth，这就是token factory 经济学最绕不开的第一性原理

—--------
软件的影响呢？软件的优化会不会降低带宽的需求？降低HBM的需求？

这跟硬件是独立两个维度的，这好像在问，如果CPU上的软件优化了之后跑的更快，是不是CPU就十年不用发展了？反正软件跑的更快了嘛

这样的话，CPU厂还能赚得到钱吗？CPU想要存活下去，只有一条路可走，在标准benchmark，不考虑软件优化，每一代CPU必须要跑分更高，不然就卖不出去
GPU也是一样，软件优化如何，和自己的token吞吐量KPI每年都要大幅进步，是两回事

只要token的需求继续增长，对token throuput的追求就绝不会停止，那么对HBM size X HBM 带宽的追求也不会停止

如果HBM size和HBM 带宽发展慢了，老黄一定会亲自到御三家逼着他们技术升级，因为这就是老黄gpu的天花板，天花板要是钉死了不进步，老黄的GPU还能卖出去吗？

当然了，Nvidia需要绞尽脑汁去从异构计算的架构角度榨取HBM天花板之外的部分，比如LPU就是一个很好的尝试，把Pareto frontier从另一个角度改善了很多 （右半边高token速度的部分）

—--------------------------------------

HBM内存已然告别了那个随波逐流的旧时代，在这条由指数级需求铺就的单行道上，以一种近乎宿命的方式走到了产业史诗的主舞台中央

推理范式第一性原理演化到这一步，只要老黄还要卖GPU，HBM就必须翻倍，而且必须代代翻倍。这是supply side的内生压力，与AI需求无关，与宏观周期无关，与hyperscaler的心情也无关

剩下的问题，只有一个：

当需求被物理锁定为指数增长的时候，供给侧的三个玩家，会不会还像过去三十年那样，亲手把自己再拖回一次周期的泥潭？

[Halal Investor @_HalalTrader_]

$MU Memory is arguably the biggest beneficiary of the $5T spend as 30% of hyperscaler capex goes to it.
You’re not bullish enough!

[dellal1973 @dellal1973]

对GPUS的影响怎样

[dellal1973 @dellal1973]

@tang_hang37416 @Wuming_Mr_ ZEC

[dellal1973 @dellal1973]

@Wuming_Mr_ ZEC

[dellal1973 @dellal1973]

在币安看到的，难怪最近推特space里很多人说容易掉，也难上推特

[Mao Ning 毛宁 @SpoxCHN_MaoNing]

Mind-blowing in east China’s Wuxi: A robot directing traffic.

[Li Mengbai @lvjin1993]

淀粉和醋就可以将油炸过的油变的清澈～