Xiao

归去，也无风雨也无晴 . Think Systems in AI. Think AI in Systems. [email protected]

[Simon Shaolei Du @SimonShaoleiDu]

感谢硅谷101的采访。对 @Apodex_AI 感兴趣的欢迎联系~

[snowboat @snowboat84]

上篇写了AI圈的前75人（奠基者、实验室掌门、Transformer 作者、顶尖学者）。这是下篇，写了七十个人物小传，还是分四个部分。他们不是主要模型的搭建者，却塑造了大众怎么理解 AI，Karpathy、3Blue1Brown、Lex Fridman都属于这条线。

造工具的人：PyTorch、Keras、HuggingFace、llama.cpp、pandas、NumPy全出自他们手，撑着整个行业的地基。

踩刹车的人：从写标准AI教材的Stuart Russell，到把末日论喊得最响的Yudkowsky，再到被Google 赶走的Timnit Gebru，一群跟造东西的人天生对立、又谁都离不开谁的人。

把AI变成钱的人：卖铲子的黄仁勋、苏姿丰，四大巨头掌门，开十亿支票的VC，还有Cursor、Devin、Midjourney 背后的操盘手。

写完这七十人，三个反复冒出来的模式：大众认识的那个AI，是科普红人塑造的；最被低估的是开源那群人，你天天在用却叫不出名字；这张名单上踩刹车的和踩油门的挤在一起，有时还是同一家公司的同事。

这是我百日百篇原创长文的第67篇。

[Xiao @LambdaShi]

@zhzHNN great work

[灰狐 @huihoo]

周善祥，92年出生
古典钢琴家及作曲家，也横跨数学物理学研究领域
周善祥自小展現科学与音乐天分，妈妈说
她在美生下周善祥，从他2岁起就教他数学、化学，当时就知道他是小天才
五岁阅读百科全书，自学音乐的基本理论
1997－2001年正式学习钢琴和作曲
八岁时首次与长滩巴赫音乐管弦乐团（Long Beach Bach Festival Orchestra）演出
九岁正式进入美国犹他州立大学攻读生物、物理、数学以及音乐（2001－2002年）
12岁起，他连续5年荣获Morton Gould青年作曲家奖
2003年，进入柯蒂斯音乐学院学习钢琴，同时在宾夕法尼亚大学选修化学和数学
2004年在英国皇家音乐学院学习钢琴和作曲
同时也在伦敦帝国理工学院学习纯数学（2004－2008年）
2008年周善祥以优异的成绩毕业于伦敦大学的皇家音乐学院
2012年从法国巴黎索邦大学获得纯数学硕士学位
2021年周善祥开始就读清大电机博士
主要利用kuramoto model研究AI与人类协奏钢琴音乐

这里有一个对周善祥的采访，很有趣。整个过程中感受到周善祥的放松、乐观、友善好玩的性格，就像邻家大男孩一样，而不像一位已演奏过上千场音乐会的钢琴家

或许我们能从这位天才身上感受到更多东西
和科学与音乐的种种启发
https://t.co/Ma8eDJTWSm

[Yann LeCun @ylecun]

Exactly. I've been disseminating a similar message for years.

The concentration of power in AI and the desire for control is by far the biggest danger of AI. It could lead to a few private companies and/or countries being in control of access to information, access to knowledge, and access to the tools of economic expansion.
It's a kind of medieval obscurantism akin to the Ottoman empire banning the use of the printing press for 200 years, in part to keep control of the dogma, but also to protect the corporation of the calligraphers and scribes.

Relevant historical bits about the Internet:
1. It took a deliberate decision by Al Gore and Bill Clinton to open up access of what was then ARPAnet to commercial entities and to the public, against the desires of the entrenched telecom industry. During a public roundtable about the "information superhighway" in 1993, the CEO of AT&T told Gore and Clinton "leave it to us". Gore said no.
2. In the late 1980s, setting up an Internet presence required buying proprietary hardware with proprietary OS and software stack from Sun Microsystems, HP, IBM, or Dell. By the 2000s, all of this was wiped out by commodity hardware, Linux, Apache, and an entirely free/open software stack. This migration to open platforms was the result of market forces.

Infrastructure wants to be open.
Foundation models are becoming an infrastructure and will inevitably become commoditized.
Long term, the money is in the application layer, which is what I, Arthur Mensch, Alex Karp, and others have been saying.

[墓碑科技 @mubeitech]

MIT 历史上一门被疯传的经典公开课，居然跟 AI、算法、物理一点关系都没有。

这门课叫《How to Speak》。
主讲人 Patrick Winston 教授，在 MIT 每年一月雷打不动地讲这门课，讲了整整 40 年，直到 2019 年去世。
几代 MIT 的天才学生，在做任何项目、搞任何创业之前，都会被前辈叮嘱：先去把这门课看了。

这位教授一开场，就丢出了一个甚至有点刺耳、极其粗暴的暴论：
“你这辈子的成功，很大程度上取决于这三件事：你的表达能力，你的写作能力，最后，才是你想法的质量。”

在最硬核的科技殿堂 MIT，表达，被排在了想法前面。

这个结论对很多“技术思维”的人来说，简直是当头一棒。
我们总觉得，只要我的技术够硬、想法够天才，别人就应该买单。
但现实极其残酷。
你空有一脑子改变世界的想法，如果讲不明白，在别人眼里，你和没有想法没有任何区别。

到底怎么把想法讲到别人愿意听、听得懂、还忘不掉？
这门课的核心逻辑，其实可以被提炼成几个极度实用的表达规则：

第一，永远不要以笑话开场。
很多人觉得讲 PPT 前先讲个段子很暖场。
教授说：错。
听众刚坐下，脑子还没进入你的频道，这时候讲笑话，他们大概率反应不过来，现场只会剩下尴尬。
开场的黄金时间，应该用来抛出“承诺”，告诉他们听完这 60 分钟到底能带走什么。

第二，控制信息密度。
别把你的 PPT 塞满密密麻麻的字，这等于逼着人家在现场做阅读理解。
人类的大脑，一次只能处理一个核心焦点。
页面上的字越多，听众的注意力离你越远。

第三，在听众脑子里“画画”。
如果你在讲一个复杂的概念，不要直接上公式或黑话。
试着用最具体的、能让人瞬间产生画面感的类比，把听众带入情境。

这位教授用 40 年总结出的这套沟通机制，直到今天依然是很多精英的秘密武器。
甚至现在，有人直接把这套规则调教成 AI 提示词，在每一次面试、路演、汇报前，让 AI 用 Winston 教授的严苛标准来当自己的教练。

在这个信息垃圾成灾的时代，最稀缺的早就不是“想法”，而是“注意力”。
学会表达，不用去迎合谁，它能给你脑子里那颗珍贵的种子，穿上一件在现实世界里落地的防弹衣。

[灰狐 @huihoo]

Free Book, Algorithms for Decision Making, 700 pages, CC license
https://t.co/Y1gFRYNfEb

本书全面介绍了不确定性决策算法
涵盖了与决策相关的各种主题
介绍了相关数学问题模型以及求解算法
本书算法采用 Julia 编写，也有项目将算法翻译成 Python 代码
https://t.co/4PzzVVYOlK

一些大学开设了基于本书的课程：
Stanford University, CS238: Decision Making under Uncertainty
https://t.co/aMWA8xx0yM
University of Colorado, ASEN 5519-003: Decision Making under Uncertainty
https://t.co/yKdjiIlDuM
Brown University, CSCI 2951-F: Learning and Sequential Decision Making
https://t.co/yGBN1E1CP2

[Vincent @Vincent_AINotes]

六个亲手造出现代 AI 的人坐在一起，最有意思的不是共识，而是他们对未来几乎没有共识。

黄仁勋说这不是泡沫，AI 工厂才刚开始建设；LeCun却说，指望当前LLM一路扩展到人类智能，本身可能就是泡沫；Bengio则在ChatGPT出现后，直接把研究重心转向了AI安全。

他们谈的是同一项技术，却像在谈三种东西：新工业、未完成的科学，以及失控风险。

如果连奠基者都不知道终点在哪里，为什么资本市场表现得像AGI路线已经确定了？

[Junchen Jiang @JunchenJiang]

🚨New paper alert!

Context: KV cache has a boom in research -- 40x more papers on it in 2026 than 2024. But our experience shows that the industry can be reluctant because they are all *LOSSY* --- meaning the results with KV cache compression can be different from without it.

VeriCache solves exactly that problem without sacrificing the performance gain from the KV cache sparsification techniques.

Great work by the team led by Jiayi Yao (@EricYao43125144) !

[Tri Dao @tri_dao]

If you ever wondered about how how open/closed model makers and inference providers make economic sense, this is the piece to read

[UW SyFi @UWSyFi]

🔥 Coding agents have become one of the hottest LLM workloads. But serving them looks nothing like serving a chatbot: 294× more input than output, hundreds of thousands of tool calls, and extremely long-tailed latency.

🚀 We are releasing the SyFI Coding Trace: ~4,300 real-world coding-agent sessions from our daily use, plus TraceLab, an open-source pipeline to collect, sanitize, analyze, and replay your own traces.
More in the thread below 🧵👇 (1/n)

[NadeshikoManju@ゆるキャン△ SEASON４ 2027 放送予定 @Manjusaka_Lee]

昨天深夜和 CTO 随便有一搭没一搭闲聊的时候，我给他聊了聊最近我学 MLSys 的进度（我说我过段时间准备自己从头写个小模型的推理服务）。他给我推荐了新的学习资料。

他突然说，你要以 @antirez 作为榜样。我说是的，他是我的榜样。

过了一会儿，我说“我觉得我最终的目标其实就是一个，在我，40, 50, 60岁的时候，还是很想去学习新的东西”

我一直试图给我自己定的一个标准，叫作保持少年感。

少年感有很多含义，有好的，有坏的，你可能会保持年少的热血与热情，也可能因为实际上因为你的毛刺在不经意间伤到很多人

我其实不算一个脾气很好的人，所以我一直隔三岔五都会向 CTO 和其余同事寻求反馈，看我有没有因为自己的毛刺伤到人（其实也还是会伤到人）

除去性格上的磨炼以外，我觉得少年感最大的一点就是对于新事物的好奇与新鲜感。

过去很多年，我经历了很多，有好的，有坏的，也都牢记在心。但是最值得品味的莫过于许许多多的第一次，LED 第一次被我点亮，第一个生产服务上线，在出差路上第一次自己完整解出一道 Hard

我渴望一直进步，一直能获取新的东西，这时常会让我陷入一种时不我待的紧迫感中。虽然我在31岁生日也说过，“摆烂一念起，刹那天地宽”。但是依然会因为自己能力还是太菜而感到焦虑。

可能唯一感到的庆幸的一点是，我回顾过去这些日子，我还是在缓缓的往前走，有些时候很慢，有些时候快，但是终归是还是保持了一点点初心

我时常会问自己，“saka 你是个好人吗”，“saka 你是个合格的工程师吗”，“saka 你还能继续的摄入新的东西吗”

坦白说我不知道，这些问题可能在我坚持不下去退出这一行时估计也不会有答案。可能只有我被装在小盒子里时，方能盖棺定论，我们才知道求知者 saka 的一生终究是走向何方。

愈是时不我待，愈是需刚勇前行。

愿我接下来很多多年，依然能保持初心，保持少年感。毕竟美好的仗尚未结束，应走的路还未走完，应信守的道亦还未能坚守到终。

[Huaizheng Zhang @zhzHNN]

I am a simple person. Lilian Weng writes, I memorize.

[yihong0618 @yihong0618]

点开今天随机到的博客，这，大概是我这 10 年看到过的，活的最精彩的人。除了精彩我找不到别的形容词。

https://t.co/V5C4RiauII
tg link:
https://t.co/AnB3TT4nT4

[Terry (Taehan) Kim @thtrkim]

Visual deep dive on FlashAttention by hand ✍️
(drawn with Excalidraw)

https://t.co/5AHu6PLzad

[老[email protected] @lichuang]

《图解分布式系统原理》 (https://t.co/n3Bs9FBz5L)的英文版《Distributed System Illustrated》正式在海外的电子书发布平台leanpub上线 (https://t.co/CKxHlT9TMn)。在leanpub的书籍页面，有sample章节可以免费下载试读。

这意味着，从2024年底开始构思写作，历经一年多的打磨，这本教程终于做为一个完整的商品开始上架售卖。我知道现在这类技术书籍肯定不好卖，但是我想看看，在我的努力下，最后能做到什么程度。小说《长安的荔枝》里，男主在面对困难时说的一句话：“既是退无可退，何不向前拼死一搏？”给了我很大的鼓励。这算是我个人独立从零开始完成的第一个作品。

纳瓦尔说：Learn to sell. Learn to build. If you can do both, you will be unstoppable.就这部作品而言，目前已经完成了build阶段，下面就是如何sell了。暂时的想法是在多写英文博客，以及这份教程会完全公开网页版，给leanpub购买链接引流。

另：中文电子版其实也已经完成，但是我暂时还没想好在哪个平台销售。

[Xudong Han @Xudong07452910]

最近读到一篇很喜欢的文章：Zen and the Art of AI Research。

它最打动我的观点是：

做 AI research，很多时候拼的不是天赋，而是一种研究气质。

能不能长期泡在一个问题里，能不能接受实验失败和对好的结果保持怀疑，能不能在别人发了好 paper 之后，不只是焦虑，而是反过来问自己：我有没有在同样的深度上思考？

文章里有个很好的类比：做研究有点像打坐。

有灵感的时候，继续坐。
没有灵感的时候，也继续坐。
很多真正重要的想法，不是刷几篇热门论文就突然冒出来的，而是在反复阅读、动手构建、失败、debug、重新理解里慢慢长出来的。

这篇文章还提醒了一个很现实的问题：coding agents 会让研究跑得更快，但也会让人更容易失去对系统细节的掌控。

它可能帮你改了 prompt，缩短了 sequence length，换了 config，跑了一个看起来差不多、其实已经不一样的实验。

工程上这可能只是小问题，科研上就是大问题。

因为一个很小的改动，就可能改变整篇论文的结论。

所以 AI 时代的研究能力会变得更矛盾：

你要会用 AI 加速，但不能把理解外包给 AI。
你要跑得更快，但不能失去慢下来检查的能力。
你要拥抱 agents，但仍然要知道每个结果是怎么来的。

优秀的研究者需要在工具越来越强之后，依然能保持耐心、怀疑和清醒的人。

https://t.co/q5GLIVBUaZ

[Kazuki Fujii @kazukifujii]

こちらのvLLMのブログ、非常に分かりやすくRL における weight update + KV cache recomputeについて図解している上に、vLLMに最近導入されたweight syncのためのAPIについても解説しているので必見だと思うのですが、自分の観測範囲内ではそこまで話題になっていないようで...

一応、前半部分について分かりやすく日本語版の記事も書いているのでぜひ
(後半部分について書く予定でしたが、時間が取れず...)
https://t.co/cSmENn0LkM

vLLM Blog: https://t.co/z4LRWfeh9k

[Francesco Orabona @bremen79]

Final version of my book (with a new title)

Online Learning: A Modern Introduction Using
Convex Optimization

Especially proud of the Foreword by @NicoloCB!
It'll be printed by Cambridge University Press.

The end of 7 years of updates :)

https://t.co/NeqTSih2ra

[Amber Liu @JIACHENLIU8]

Research needs resilience