crystone

「誰不曾眷戀這一茶一飯的光輝。」 ​ .🤔😏

[crystone @Shinjays]

@dingyi 我都不知道是不是我在用假的ghostty。。。远程ssh到另一台机器上的zsh简直是灾难，在cc或codex里也是各种快捷键不能用。。。

[Elon Musk @elonmusk]

@gvanrossum Congratulations on creating Python. It is really something special.

[Guido van Rossum @gvanrossum]

Hey @elonmusk, does SpaceX use Python, and for what? How extensively?

[crystone @Shinjays]

@servasyy_ai pageindex的孪生。这个思路其实我们23年下半年就在工程中用了，本质是时间换准确率。这玩意的通病是，1. 推理时间大大增加； 2. 针对无矛盾无重复的场景还行（比如一本大百科），对海量数据不回比vector+bm25+rerank好多少。

[Pleiades RS @PleiadesRs33359]

@HyperCodeTalker @qqqqqf5 有的，设置里可以关

[32号就恋爱 @NGNGVXX]

刷到一位母亲说：她女儿每次考试都考倒数第一，但她觉得好可爱，小小的一个人儿每天早起贪黑背个小书包去上学，结果脑子空空。

好纯粹的对孩子的爱啊，终于懂了那句 在爱里长大的孩子，迷路也像旅行。

[crystone @Shinjays]

一开始我没看到谁发的帖子，我还说是我关注的推特博主还有能这么吹牛逼的？ 看了眼发帖人，我服了。。。。。。

[Elon Musk @elonmusk]

I paid so much in taxes one year that it broke the IRS computer (actually). Too many digits. They had to update the software to get it processed.

[nazha @xiaokedada]

#分享 我们是怎么给内部语料做 RAG 的
今天同事问我在内部怎么做 RAG 的，我简单分享了下，关键词就叫「基于文件系统的的二次检索策略」。我们在做 Coding Agent 的时候，内部资料主要是组件文档、库文档和 api 文档这些偏结构性的文档。实践下来如果按照传统方案进行分块，反而效果不好。比方说，组件 A 的使用文档如下：

## 组件名
描述
## api
## 示例
### Demo1
### Demo2
### Demo3

...

如果只召回了 A 的描述，却没有召回 api 或者召回了 api 却没有召回某个特定使用的 Demo 种种边界问题。

我们的策略是做二次检索。它的步骤是先对文件做摘要处理，只把摘要文档送入 RAG 系统进行检索。然后让 Agent 做一次粗略检索，大概会有 5 到 10 个候选。再让 Agent 从这 5 到 10 个候选中找出匹配要求的全量文档。

为了减少 Token 和上下文，可以基于文件系统向 Agent 返回少量的数据，而其他内容进行渐进式披露。比方说，返回的全量文档的内容实际上可能是：

## 组件名
描述
## api
[api](./api.txt)
## 示例
[Demo1](./demo1.txt)
[Demo2](./demo2.txt)
[Demo3](./demo3.txt)

这样既减少了上下文膨胀，也可以降低噪音对 LLM 的干扰。更重要的时候，基于文件系统，后续的对话 or Agent 可以直接进行本地 grep 检索而无需再次召回。

[crystone @Shinjays]

我一直只在官网充值会员，前天着急给老婆弄个东西，充了个最高级版本的https://t.co/MkGjkeetJb的年费会员准备后面给她用（不用翻墙）。今天自己使用发现，它模型用老的模型做了封装，修改了提示词做了反越狱，装作是最新的模型，体验巨差无比。网络上还全是水军，真实的国人割韭菜，下作。

[crystone @Shinjays]

@sun0225SUN 用了半个小时，从收藏夹直接拿出来了。这么多捧场的是真用了吗。

[crystone @Shinjays]

今天跟其他人合作文档，对方提议都用思维导图，于是不得不把一个偌大的产品规划放进去。就我常年写各类文档的感受是：思维导图真是一种非常垃圾的信息工具，逻辑之间关联弱，重点难以区分，只适合原始信息罗列，给markdown提鞋都不配，更遑论https://t.co/4g7SguAa0A、PPT、visio这些了。

[crystone @Shinjays]

@chairbtc 说实话 类似那种小学生刚学会做Flash作品的水平

[Fastbreak Hoops @FastbreakHoops5]

Jordan vs. Shaq pregame in 1996.

[宝玉 @dotey]

AI 大神 Andrej Karpathy 关于如何在课程中取得好成绩的成功建议
作者：Andrej Karpathy

如果你想在大学课程里取得好成绩，我这里倒有一些经验，想分享给年轻的同学们。

我这辈子身经百战（考得还不错！），总结出了一些经验法则 (rules of thumb)，我觉得它们对我的帮助很大：
常规篇
千万别熬通宵。
睡眠是“神器”。对我来说，7.5小时是最佳睡眠时间，底线是4小时。
这种事我经历过好几次：晚上卡住1小时都想不明白的问题，早上起来5分钟就搞定了。我感觉，大脑会在夜间把那些“摇摇欲坠”的短期记忆，“提交” (commits) 转化成稳定的长期记忆。所以，任何大考，我都会提前好几天开始复习，哪怕每天只学一会儿。这样就能让大脑有足够多的夜晚去“消化”这些知识。

去上辅导课 (tutorials) 或复习课 (review sessions)。
就算课很烂，也要去。重点是，它们能“逼”着你去思考这些内容。如果实在无聊，你就在那儿干点别的。别忘了，你也可以试试换个助教 (TA) 的辅导课。

备考篇
关键在于“大局观”和“条理性”。

给自己做个复习计划，就算最后没完全遵守也行。我通常会把所有需要掌握的知识点都搞清楚，然后用项目符号 (bullet points) 逐条写下来。仔细评估每个点，想想搞定它需要多久。如果你不这么做，就很容易在开头花太多时间，结果（最重要的）后半部分内容因为时间不够，只能草草掠过。

在开始复习前，一定要先看“往年真题”。

特别是当这些卷子和你是同一个教授出的时候。这会给你“划重点”，告诉你该怎么复习。每个教授的“出题风格” (evaluation style) 都不一样。刚开始不用真的上手做题，但要仔细留意题型。
“看懂了”和“能复现”完全是两码事！

直到现在，我都还会犯这个错误：你看着书上的公式、推导或证明，感觉“哎哟，全懂了”。好，现在合上书，你再写一遍试试。你会发现这完全是另一回事，你甚至会惊讶自己居然写不出来！感觉这两件事用的是大脑里不同的“内存区”。一定要确保你真的能写出那些最重要的部分，并且能随心所欲地把它们重新推导一遍。关于这一点，“费曼大神” (指诺贝尔物理学奖得主理查德·费曼) 早就看透了。

**一定要和同学合作，但要留到复习的“后半场”。

**刚开始最好自己学，因为在复习初期，别人只会让你分心。但到了快复习完的时候，就该“合体”了：他们经常能帮你指出一些关键的“坑”，提出好问题，有时你还能“反客为主”教教他们。这就引出了下一点：

别只跟“学霸”混。

“学渣”们会缠着你给他们讲题，而你会发现，“教别人”这件事对你自己的理解超级有帮助。

期末考前，至少要去一次教授的“答疑时间” (office hours)。

就算你没问题（现编一个！），也要去。在一对一的交流中，教授有时会透露一些关于考试的“小道消息”（那些他们不会在全班面前说的话）。别把这当成理所当然，但一旦碰上，就赚大了。这会不会对其他同学不公平？有时候会。是有点“鸡贼” :)

但总的来说，让教授稍微认识你一下，总没坏处。

提早复习！

我是不是已经说过了？也许我该再强调一遍。大脑吸收知识真的需要时间。很多看起来很难的东西，放一段时间再看，就变简单了。
你最好给“期中考” (midterms) 留 3 天，给“期末考” (exams) 留 6 天。

如果状态实在太差，累得不行，紧急情况下，灌一瓶能量饮料。

真管用。这纯粹是化学反应。

对于数学这类学科：刷题 > 看书。

复习到“差不多能开始做题”的程度就行了，然后就该通过刷题来“查漏补缺”。特别是当你手头有很多练习题时。这些练习题也会“逼”你滚回去重看那些你没搞懂的知识点。

给自己做一张“小抄” (cheat sheet)。
哪怕考试不让带，也要做。“写下来”这个动作本身就很有帮助。你要做的，就是把整个课程的精华“压缩”到一页或几页纸上，最后你能把它们摊在面前，胸有成竹地说：“OK，要考的就这些了。”
去有“学习氛围”的地方复习。
和一群都在学习的人待在一起（就算学的不是一个东西），当只有你一个人在摸鱼时，你会感觉很不好意思。这招对我特管用 :)

背景噪音太大的地方很糟糕，有研究表明这对学习有负面影响。图书馆和自习室 (Reading rooms) 是最好的选择。

考试当天

最佳饮食节奏：考前 2 小时，摄入咖啡和食物。

对我来说，考前立刻喝咖啡或吃东西，绝对不行。

在任何有压力的场合前立刻喝咖啡，绝对不行。

但一点咖啡都不喝，也不行。

我承认“咖啡”这一点可能因人而异，但你最好也琢磨一下自己的（生理）节奏。

考前最后一刻，要高强度“抱佛脚”。

我见很多人在考前就“缴械投降”了，美其名曰“放松一下”。别啊！“短期记忆”是个好东西，别浪费了！考前要尽可能地“猛学”。如果你非要休息，那就在考前 1 小时歇会儿，但一定要保证考前的 30-45 分钟，你在拼命复习。
考试中

考试一定要用铅笔。

你得能擦掉你那些“瞎写的”答案。

动笔前，快速扫一眼所有题目。

每道题瞥个一两秒就够了。目的就是“吸收”所有关键词，对整张卷子的“体量”有个概念。

考试时，先做简单的题。

绝不允许自己在一道题上卡太久。跳过去，回头再说。我经常跳题……有时候，我第一遍做下来，可能只完成了 30% 的题目。很神奇，有些题在你“热身”之后，就变简单了，我说不清为什么。

卷面一定要保持整洁。
这个道理很明显，但奇怪的是很少有人意识到：你的卷子是人来判的！ 一个（被你龙飞凤舞的字搞得很）沮丧的阅卷人，会给你打低分。我当学生时就怀疑这一点了，等我当了助教 (TA) 亲自去阅卷时，我对此深信不疑。

一定要把答案“框”起来！

特别是当答案周围有一堆推导过程的时候。这能让阅卷人一眼看到，给你满分，然后去看下一题。学会“换位思考”，把自己当成阅卷人。

永远。永远。永远。不要提前交卷。

你肯定犯了某个“低级错误”（我跟你保证），找到它，改掉它。如果找不到，就拼命找到时间结束。如果你极度自信没错了，那就花时间让你的卷面更工整、更容易判分。擦掉草稿，框好答案，给证明过程多加几个步骤，等等。

我不知道该怎么说得更明白了——那些提前交卷的人，简直是“傻”。这是一个“潜在收益”远大于“付出成本”的典型例子。

（在卷面上）和阅卷人“沟通”。

要向阅卷人展示，你懂的“比你写下来的要多”。好吧，你可能卡在某一步做不出来了，但你得清楚地写明：如果我能做出来，我知道接下来该干嘛。必要时，大胆地给阅卷人“留纸条”。信不信由你，阅卷人很多时候是在“拼命”帮你找分——你得让他们找得容易点。

注意每道题的“分值”。

很多考试会告诉你每道题值多少分。当你（对自己的答案）没把握时，分值能给你强烈的暗示。它还能告诉你该先做哪道题。花大把时间去死磕一道“又难分又少”的题，显然是愚蠢的。

如果考试只剩最后 5 分钟，你还卡在某道题上，请立刻停下！

你最好把时间花在“重新读题”上，确保你没有漏掉任何“小问题” (secondary questions)，确保你答完了所有内容。你简直无法想象，有多少人因为这种“愚蠢的失误”丢了多少分。

“压箱底”的建议

能一路读到这里，恭喜你！既然你都看到这儿了，我就再给一条我“压箱底”的建议（非常重要）。这番话，我多么希望在我还是个本科生时，就有人能告诉我。
本科生很容易陷入“隧道视野” (tunnel vision) (指眼界狭隘，只盯着眼前的事)。他们一门心思想拿高分。但残酷的事实是：没人会在乎你的分数，除非你的分数烂到家了。 举个例子，我以前常说，最聪明的学生，是所有课都拿 85% 的人。这样一来，你的平均分 (GPA) (美国大学的满分绩点通常是4.0) 差不多能到 4.0，但你既没有“用力过猛”，也没有“学得太差”。

你的时间是宝贵且有限的资源。在考试上，你要做的就是保证自己“别考砸”，然后，请立刻把你的注意力转移到“远比考试更重要”的事情上去。那是什么呢？

去获取“真刀真枪”的实战经验！去参与真实的代码库 (code base)、真实的项目、去解决那些“课程练习”之外的真实问题，这极其重要。那些了解你、能为你写一封“神级推荐信” (reference letter) 的教授/大牛，他们极其重要。他们能在信里证明你拥有“主动性、热情和驱动力”。

你想找工作？那就去暑期实习 (summer internship)。

你想读研？那就去做科研 (research experience)！

去申请学校提供的各种项目。或者，主动联系你喜欢的教授或博士生，请求加入他们的研究项目。只要他们觉得你“够拼、够有动力”，这事儿就可能成。千万别低估这件事的重要性：一个知名教授在他的推荐信里写道“你是一个有驱动力、有热情、思想独立的人”，这句话的份量，碾压其他一切，尤其是你那点“芝麻绿豆”的成绩。如果你能在申请前“憋”出一篇论文，那就更有帮助了。

另外，你得知道教授们最“忌讳”什么：那种“三分钟热度”的本科生——刚开始兴冲冲地报名，开了几次会，问了一堆问题，然后（在耗费了教授或博士生大量时间后）突然“人间蒸发”了。千万别当这种人（这会毁了你的声誉），也别暴露出你“可能”是这种人的迹象。
除了科研项目，你还可以和一群人搞点“业余项目” (side projects)，或者干脆自己从零开始做一个。去给开源项目 (Open Source) 做贡献，去开发或改进一个“库” (library)。走出去，去创造（或帮助创造）点什么酷的东西。把过程好好记录下来，写成博客。

几年后，人们真正在乎的是这些东西。至于你的分数？那只是你一路上不得不应付的“小麻烦”。好好利用你的时间，祝你好运。

[在悉尼和稀泥 @JamesAI]

对"心流"的依赖，很可能是程序员成长的敌人

很多程序员喜欢熬夜，不是因为夜猫子体质。
而是因为晚上没人打扰，可以进入那种传说中的"心流"状态。
“心流”一直是很多程序员喜欢的，甚至是追求的状态。

程序员的工作本质上是"沉浸式"的：
一个完整且明确的问题，固定的上下文，需要你沉下心来几个小时甚至几天地死磕。
解决了，爽！
那种满足感是实实在在的，就像游戏通关一样。

但从程序员变成创业者后，这种状态几乎消失了。

创业的工作本质上是“碎片化”的：
邮件、客服、申请、会议、人事、通话……
不同上下文，不同人群，优先级还一直变。

这些问题是如此的繁琐，枯燥，压抑，甚至会感觉到“恶心”。且大多发生在白天，和生活中的各种琐事再交织一起，更容易被分心。
所以常常感觉没干什么，时间就没了，人还挺精疲力尽的。
中间偶尔一些空闲，也宁愿拿来刷手机了。

程序员习惯解决“大问题”，
而创业者每天都要解决“小问题”。

那些所谓的小问题，往往只是捅破一层窗户纸，
我觉得甚至都不能叫“解决”问题，
单纯只是在“处理”问题。
做完没成就感，不做还满是焦虑。

所以很多人会怀念写代码的日子，
就和怀念读书的时候一样。
因为那是一种单纯的累，
至少那时，问题是明确、可控的，能收获快乐。

所以很多程序员天生就不适合创业。
再夸大一点说，很多学术出生的也天生不适合创业。

从心态上看，做运营的人反而更适应创业，
因为他们能在碎片化中保持产出。

但 AI 的出现，
不敢说改变了这一切，起码给了程序员一个机会。

AI 让程序员可以多线程工作，同时处理不同项目、不同上下文，甚至可以在碎片时间里也有产出。

我看到很多人，也包括我自己，在用 AI 编程后，抱怨现在没有了“心流”的状态。
其实，追求“心流”，又何尝不是一种包袱和依赖呢。

换个角度，
AI 让程序员第一次具备了“像创业者一样工作”的能力。
尽管这个体验，没有解决问题的愉悦感，没有专注的成就感。

所以在 AI 时代，我觉得，程序员如果拿着 AI 只是用来上班写代码，这简直是暴殄天物。

程序员的正确 AI 打开方式应该是：尝试创业。

当然大概率不会成功，但是起码能真正拓展你思维和认知的边界。

[iGeekbb @igeekbb]

一个热衷于造神的民族

[crystone @Shinjays]

几乎是AI方向研究者的半部圣经了吧，23年第一次读到，之后也是常看常新。

[向阳乔木 @vista8]

最近听好几个AI播客，都提到这篇2019年由里奇·萨顿写的一篇文章“The Bitter Lesson（苦涩的教训）” 。

都觉得这篇文章非常经典，影响了后续的AI训练模型。

用Opus4.1 做个双语对照版，然后人工微调。

从70年的人工智能研究中能够读出的最大教训是，利用计算力的通用方法最终是最有效的，而且优势巨大。

The biggest lesson that can be read from 70 years of AI research is that general methods that leverage computation are ultimately the most effective, and by a large margin.

其根本原因是摩尔定律，或者更准确地说，是计算单位成本持续呈指数级下降这一普遍规律。

The ultimate reason for this is Moore's law, or rather its generalization of continued exponentially falling cost per unit of computation.

大多数人工智能研究都是在假设智能体可用的计算力是恒定的前提下进行的（在这种情况下，利用人类知识是提升性能的唯一途径之一）。

但是，在比典型研究项目稍长的时间内，必然会有大量更多的计算力变得可用。

Most AI research has been conducted as if the computation available to the agent were constant (in which case leveraging human knowledge would be one of the only ways to improve performance) but, over a slightly longer time than a typical research project, massively more computation inevitably becomes available.

为寻求在短期内产生差异的改进，研究人员试图利用他们对领域的人类知识，但从长远来看，唯一重要的是对计算力的利用。

Seeking an improvement that makes a difference in the shorter term, researchers seek to leverage their human knowledge of the domain, but the only thing that matters in the long run is the leveraging of computation.

这两者并不一定相互矛盾，但在实践中它们往往如此。

These two need not run counter to each other, but in practice they tend to.

花在一个方面的时间就是没有花在另一个方面的时间。

Time spent on one is time not spent on the other.

对某一种方法的投入会产生心理上的承诺。

There are psychological commitments to investment in one approach or the other.

而且基于人类知识的方法往往会使方法变得复杂，使其不太适合利用计算力的通用方法。

And the human-knowledge approach tends to complicate methods in ways that make them less suited to taking advantage of general methods leveraging computation.

有许多人工智能研究人员迟来地学到这个苦涩教训的例子，回顾其中一些最突出的例子是很有启发性的。

There were many examples of AI researchers' belated learning of this bitter lesson, and it is instructive to review some of the most prominent.

在计算机国际象棋中，1997年击败世界冠军卡斯帕罗夫的方法是基于大规模的深度搜索。

In computer chess, the methods that defeated the world champion, Kasparov, in 1997, were based on massive, deep search.

当时，大多数计算机国际象棋研究人员对此感到沮丧，他们一直在追求利用人类对国际象棋特殊结构理解的方法。

At the time, this was looked upon with dismay by the majority of computer-chess researchers who had pursued methods that leveraged human understanding of the special structure of chess.

当一个更简单的、基于搜索的方法配合专门的硬件和软件被证明更加有效时，这些基于人类知识的国际象棋研究人员并不是优雅的失败者。

When a simpler, search-based approach with special hardware and software proved vastly more effective, these human-knowledge-based chess researchers were not good losers.

他们说"暴力"搜索这次可能赢了，但这不是一个通用策略，而且这也不是人类下棋的方式。

They said that "brute force" search may have won this time, but it was not a general strategy, and anyway it was not how people played chess.

这些研究人员希望基于人类输入的方法能够获胜，当它们没有获胜时，他们感到失望。

These researchers wanted methods based on human input to win and were disappointed when they did not.

在计算机围棋中也出现了类似的研究进展模式，只是延迟了20年。

A similar pattern of research progress was seen in computer Go, only delayed by a further 20 years.

最初的巨大努力都投入到通过利用人类知识或游戏的特殊特征来避免搜索。

但一旦搜索在规模上得到有效应用，所有这些努力都被证明是无关紧要的，甚至更糟。

Enormous initial efforts went into avoiding search by taking advantage of human knowledge, or of the special features of the game, but all those efforts proved irrelevant, or worse, once search was applied effectively at scale.

同样重要的是使用自我对弈学习来学习价值函数（在许多其他游戏甚至国际象棋中也是如此，尽管学习在1997年首次击败世界冠军的程序中并没有发挥重要作用）。

Also important was the use of learning by self play to learn a value function (as it was in many other games and even in chess, although learning did not play a big role in the 1997 program that first beat a world champion).

自我对弈学习，以及一般的学习，就像搜索一样，它使得大规模计算力得以发挥作用。

Learning by self play, and learning in general, is like search in that it enables massive computation to be brought to bear.

搜索和学习是人工智能研究中利用大量计算力的两类最重要的技术。

Search and learning are the two most important classes of techniques for utilizing massive amounts of computation in AI research.

在计算机围棋中，就像在计算机国际象棋中一样，研究人员最初的努力是利用人类的理解（这样就需要更少的搜索），只有在很久以后，通过拥抱搜索和学习才取得了更大的成功。

In computer Go, as in computer chess, researchers' initial effort was directed towards utilizing human understanding (so that less search was needed) and only much later was much greater success had by embracing search and learning.

在语音识别中，20世纪70年代有一场由DARPA赞助的早期竞赛。

In speech recognition, there was an early competition, sponsored by DARPA, in the 1970s.

参赛者包括许多利用人类知识的特殊方法——关于单词、音素、人类声道等的知识。

Entrants included a host of special methods that took advantage of human knowledge---knowledge of words, of phonemes, of the human vocal tract, etc.

另一方面是更具统计性质的新方法，它们基于隐马尔可夫模型（HMMs）进行更多的计算。

On the other side were newer methods that were more statistical in nature and did much more computation, based on hidden Markov models (HMMs).

再一次，统计方法战胜了基于人类知识的方法。

Again, the statistical methods won out over the human-knowledge-based methods.

这导致了整个自然语言处理领域的重大变化，在几十年的时间里逐渐地，统计和计算开始主导这个领域。

This led to a major change in all of natural language processing, gradually over decades, where statistics and computation came to dominate the field.

深度学习在语音识别中的最近兴起是这个一致方向上的最新一步。

The recent rise of deep learning in speech recognition is the most recent step in this consistent direction.

深度学习方法更少依赖人类知识，使用更多的计算，结合在庞大训练集上的学习，产生了显著更好的语音识别系统。

Deep learning methods rely even less on human knowledge, and use even more computation, together with learning on huge training sets, to produce dramatically better speech recognition systems.

就像在游戏中一样，研究人员总是试图制造按照他们认为自己思维方式工作的系统——他们试图将那些知识放入他们的系统中——但这最终被证明是适得其反的。

当通过摩尔定律，大规模计算变得可用并找到了充分利用它的方法时，这是研究人员时间的巨大浪费。

As in the games, researchers always tried to make systems that worked the way the researchers thought their own minds worked---they tried to put that knowledge in their systems---but it proved ultimately counterproductive, and a colossal waste of researcher's time, when, through Moore's law, massive computation became available and a means was found to put it to good use.

在计算机视觉中，也有类似的模式。
In computer vision, there has been a similar pattern.

早期方法将视觉理解为搜索边缘、广义圆柱体，或者用SIFT特征来理解。

Early methods conceived of vision as searching for edges, or generalized cylinders, or in terms of SIFT features.

但今天所有这些都被抛弃了。

But today all this is discarded.

现代深度学习神经网络只使用卷积和某些不变性的概念，表现要好得多。

Modern deep-learning neural networks use only the notions of convolution and certain kinds of invariances, and perform much better.

这是一个重要的教训。

This is a big lesson.

作为一个领域，我们仍然没有彻底学会它，因为我们还在继续犯同样的错误。

As a field, we still have not thoroughly learned it, as we are continuing to make the same kind of mistakes.

要看到这一点，并有效地抵制它，我们必须理解这些错误的吸引力。

To see this, and to effectively resist it, we have to understand the appeal of these mistakes.

我们必须学会这个苦涩的教训：将我们认为自己如何思考的方式内置进去，从长远来看是行不通的。

We have to learn the bitter lesson that building in how we think we think does not work in the long run.

苦涩的教训基于历史观察：
1）人工智能研究人员经常试图将知识构建到他们的智能体中。

2）这在短期内总是有帮助的，并且对研究人员个人来说是令人满意的。

3）从长远来看，它会达到瓶颈，甚至阻碍进一步的进展，

4）突破性进展最终通过基于搜索和学习扩展计算的相反方法到来。

The bitter lesson is based on the historical observations that 1) AI researchers have often tried to build knowledge into their agents, 2) this always helps in the short term, and is personally satisfying to the researcher, but 3) in the long run it plateaus and even inhibits further progress, and 4) breakthrough progress eventually arrives by an opposing approach based on scaling computation by search and learning.

最终的成功带有苦涩，而且往往没有完全消化，因为这是对受青睐的、以人为中心的方法的胜利。

The eventual success is tinged with bitterness, and often incompletely digested, because it is success over a favored, human-centric approach.

从苦涩的教训中应该学到的一件事是通用方法的巨大力量，这些方法即使在可用计算变得非常庞大时，仍能随着计算的增加而继续扩展。

One thing that should be learned from the bitter lesson is the great power of general purpose methods, of methods that continue to scale with increased computation even as the available computation becomes very great.

似乎能以这种方式任意扩展的两种方法是搜索和学习。

The two methods that seem to scale arbitrarily in this way are search and learning.

从苦涩的教训中要学到的第二个要点是，思维的实际内容是极其、无可救药地复杂的；

我们应该停止试图找到思考思维内容的简单方法，比如思考空间、对象、多个智能体或对称性的简单方法。

The second general point to be learned from the bitter lesson is that the actual contents of minds are tremendously, irredeemably complex; we should stop trying to find simple ways to think about the contents of minds, such as simple ways to think about space, objects, multiple agents, or symmetries.

所有这些都是任意的、内在复杂的外部世界的一部分。
All these are part of the arbitrary, intrinsically-complex, outside world.

它们不应该被内置，因为它们的复杂性是无穷无尽的；

相反，我们应该只内置能够发现和捕获这种任意复杂性的元方法。

They are not what should be built in, as their complexity is endless; instead we should build in only the meta-methods that can find and capture this arbitrary complexity.

这些方法的关键是它们能够找到好的近似，但对它们的搜索应该由我们的方法来完成，而不是由我们来完成。

Essential to these methods is that they can find good approximations, but the search for them should be by our methods, not by us.

我们想要的是能够像我们一样发现的人工智能智能体，而不是包含我们已经发现的东西的智能体。

We want AI agents that can discover like we can, not which contain what we have discovered.

内置我们的发现只会让我们更难看清发现过程是如何完成的。

Building in our discoveries only makes it harder to see how the discovering process can be done.

----
AI总结提炼

1. 主要教训：过去70年的AI研究表明，利用大规模计算力的通用方法（搜索和学习）远比嵌入人类知识的方法更有效。

2. 根本原因：摩尔定律使计算成本持续下降，计算力呈指数级增长。

3. 历史案例：无论是国际象棋、围棋、语音识别还是计算机视觉，最初基于人类专家知识的方法都输给了后来基于大规模计算的简单方法。

4. 研究者的误区：研究人员总想把自己的思维方式编程到AI中，这在短期有效且令人满意，但长期会成为瓶颈。

5. "苦涩"的原因：这个教训之所以"苦涩"，是因为研究者不愿接受自己精心设计的、体现人类智慧的方法输给了"暴力"计算。

6. 正确方向：应该构建能够自主发现和学习的AI系统，而不是把人类已有的知识硬编码进去。

7. 核心启示：不要试图告诉AI如何思考，而要给它提供学习和搜索的能力，让它自己去发现规律。

[Barret李靖 @Barret_China]

Agent 有两个变量，一个是控制任务走向的 workflow 工作流，一个是控制内容生成的 context 上下文。

1）如果 workflow 和 context 的确定性都很高，这类任务就容易被自动化，类似传统 RPA，比如在处理发票处理、表单填报任务时，AI 更多是粘合剂，发挥空间比较有限。

2）如果 workflow 确定但 context 不确定，也就是流程固定但输入多变，就需要 Agent 在语义和理解上补全，比如客服问答、合同解析，需要通过外部检索、知识图谱等工具来弥补信息的缺口，让推理结果更符合预期。

3）如果 workflow 不确定但 context 确定，也就是输入清晰但走法多样，Agent 就要去自主规划路径，例如市场分析报告生成、个性化推荐等，大多数 End-to-End RL Agent 都擅长做这类任务，因为它们在训练阶段就习得了大量的路径规划和解题思路。

4）而当 workflow 和 context 都不确定时，就是最复杂的场景了，既要推理也要探索，像创新方案设计、跨部门信息收集等，这类更偏向于通用型 Agent，它的执行效果，取决于给它配备的工具丰富度，尤其是编程能力要最大化开放，例如让它学会去 Github 找仓库克隆并修改代码来解决问题，让它像人一样干活儿。

所以，要把 Agent 做好，首先要明确场景。本质上，自动化解决的是“确定性”问题，而智能化解决的是“不确定性”问题。

[Cyandev @cyandev]

升级了正式版的 macOS 26，我就想知道这是在致敬 Windows XP 吗？

[九原客 @9hills]

验证者定律：训练人工智能解决一个任务的难易程度与该任务的可验证性成正比。所有可以解决且易于验证的任务都将被人工智能解决。