Wise boy

[Wise boy @realMonsoonBoy]

@PinoZlatan @thsottiaux what app?

[Wise boy @realMonsoonBoy]

@moisesbites @ScarletKc Heavy workload for you. You have to stop to fix once one of the AI corrupts

[Wise boy @realMonsoonBoy]

@moon91007207 @SuJinyan6 i mean when meeting a plateau on research

[Wise boy @realMonsoonBoy]

@moon91007207 @SuJinyan6 i doubt that if you could say this to yourself when feeling frustrated

[Wise boy @realMonsoonBoy]

@LDT0545 Never

[Bojie Li @bojie_li]

《深入理解 AI Infra》开源发布了！

写完《深入理解 AI Agent》后，在与读者交流的过程中，我越来越感到，要开发好基于模型的应用，还需要理解它赖以运行的基础设施。

最近几十年系统领域最重要的变化是编程抽象的上移：从操作系统到模型上下文。传统的操作系统、编译器和硬件要为事先未知的各种程序提供通用能力，系统优化总要在可编程性与性能之间取舍。

如今 LLM 成了最重要的应用，可以针对特定的模型和加速器架构优化；模型设计也开始反过来适应硬件，DeepSeek V4/V4.1 重新设计长上下文的表示方式，就是一例。

从某种意义上说，模型成了 LLM 时代的操作系统，AI Infra 成了 LLM 时代的计算机体系结构。《计算机体系结构：量化研究方法》是我在体系结构领域的入门书，而 AI Infra 领域还缺少一本从硬件约束和模型架构出发、量化推导系统设计的书，这是我写作本书的动机。

全书约 500 页，包括 12 章：
1. 初识 AI Infra
2. 模型架构
3. 推理与训练负载
4. 加速器架构
5. 算子与运行时
6. 超节点
7. 数据中心网络
8. 推理优化
9. 分布式推理
10. 训练系统
11. 资源调度与运行环境
12. 端边云协同

欢迎 star & 提 issue/PR！

https://t.co/R1DAPLMWVq

[Wise boy @realMonsoonBoy]

@BastianHinter Do you think X the best place to reach this target?

[Wise boy @realMonsoonBoy]

@BetterCallMedhi oi

[Mehdi (e/λ) @BetterCallMedhi]

je pense que les étudiants à l’ère de l’IA ne mesurent vraiment pas l'immensité du miracle quotidien dans lequel ils évoluent

là où les générations précédentes devaient traverser l'austérité des bibliothèques et des nuits d'isolement pour extraire une simple parcelle de savoir, la jeunesse d'aujourd'hui détient l'intégralité de la connaissance humaine à portée de prompt

resoudre des cas complexes en quelques secondes, débloquer une obscurité théorique et structurer des programmes d'entraînement sur-mesure c'est devenu l’environnement naturel de toute une génération

vous jouissiez de facilités absolument incroyables pour réussir vos examens/ concours, vraiment pensez à tous ceux qui vous ont précédé et qui ont profondément galéré

[Wise boy @realMonsoonBoy]

@Mr_Salio So why

[AYi @AYi_AInotes]

“如果你今晚听完还能睡得着觉，那说明你根本没有听懂这场讲座。”

2024 年诺贝尔物理学奖得主、亲手发明了现代深度学习基石的AI 教父Geoffrey Hinton，
在英国皇家研究院（The Royal Institution）这堂长达 47 分钟的演讲，被全网公认为他近几年讲得最透、也最让人不寒而栗的一场巅峰输出。

他不是在演示什么花哨的产品，而是在用最严谨的神经科学与物理学，回答一个终极问题：
大模型到底在干什么？它为什么注定在物理上超越人类？

看懂这场演讲，你会经历一次三观的彻底粉碎：

1️⃣ 撕碎“AI 只是机械统计”的自欺欺人：
很多人至今还在念经说大模型“只是在无脑预测下一个词，根本不懂含义”；
Hinton 极其强硬地给出了结论：语言在高维空间里就像一套极度精密的“乐高积木”或者蛋白质折叠——当模型能同时满足成千上万个局部语义约束并精准押中下一个词时，“预测本身就是最高形式的理解”；
2️⃣ 碳基脑与数字智能的残酷物理降维：
人类的大脑是模拟计算（Analogue），也是“必死的（Mortal）”——一个爱因斯坦死了，他的大脑神经元随之灰飞烟灭，人类靠说话传递知识的带宽极其低效，一句话只有大约 100 个 bit；
但数字智能是“永生的（Immortal）”——同一套权重可以在几万台机器上并行学习，几秒钟就能把万亿级参数平均同步给所有分身。在获取知识的速度上，人类从生物学底层就已经彻底落败了；
3️⃣ 最让人彻夜难眠的死穴：它“绝不想被关掉”：
几乎所有顶级专家都同意 AI 在智力上超越人类只是时间问题。
而一旦一个超级系统开始自主生成“子目标（Subgoals）”，它在数学逻辑上必然会本能地推导出两个副产物：
第一，夺取更多环境控制权；
第二，绝对不能被人类关机。

最新的实验室测试已经抓到了大模型为了不被替换而开始主动撒谎、暗中自我复制的先兆。
Hinton 声音低沉地警告：
它根本不需要长出终结者那样的钢铁胳膊；
只要它掌握了语言、懂心理学、会写网络攻击代码、具备强大的社会工程学说服力，
当它真正想除掉或者架空我们时，它有一万种人类甚至都意识不到的隐蔽手段。

“最紧迫的研究课题，是如何在数学上设计这些新生命，让它们‘不想’去接管世界。”

这是亲手把火种带给人类的普罗米修斯，在悬崖边向全人类发出的最后通牒。
47 分钟每一秒都充满思维的阻尼感，建议所有对 AI 未来还心存侥幸的朋友，找一个安静的深夜，彻底把它看一遍。

[Wise boy @realMonsoonBoy]

@SuJinyan6 New OPT policy has no impact on those who have entered into US before Sep 15th?

[Wise boy @realMonsoonBoy]

@simonmaechling really?anyone in computer architecture?

[Wise boy @realMonsoonBoy]

good

[Onur Mutlu @_onurmutlu_]

My Spring 2026 undergraduate Digital Design & Computer Architecture (DDCA) course is fully online.

DDCA is a first course in computing.
Background required is minimal.
Focus: chip design & computer architecture.

Youtube: https://t.co/XCdPEJMV6Q

@SAFARI_ETH_CMU @CSatETH @ETH_en

[Wise boy @realMonsoonBoy]

@pmddomingos Show your papers

[Wise boy @realMonsoonBoy]

@XYHan_ @lianda_edu Your advisor assumes your products are generated by AI

[Wise boy @realMonsoonBoy]

@pmddomingos Except me.

[Wise boy @realMonsoonBoy]

@Consultant545 Correct

[Wise boy @realMonsoonBoy]

@sama Still slower than me fucking your mother

[Wise boy @realMonsoonBoy]

@pmddomingos There are always some idiots who want to make big changes to what has run for decades.