河马(Hippopotamus, 1st Earl of Loverence)

沈默

[王发财 @izjing888]

白人饭的魅力主要是省时还是健康？

[アオバユウ @xXxsilence]

タッパとケツがデカイ女がタイプです

〈1/2〉

[小C哈哈哈 @dashen9999]

女性慕强慕的到底是什么?

[Xudong Han @Xudong07452910]

这篇普林斯顿博士论文，几乎把强化学习过去十年的两条主线串在了一起：

从博弈算法，一路走到世界模型。

作者 Zihan Ding，导师是 Chi Jin。整篇论文超过 300 页，汇集了博士期间八项研究工作，其中多项成果发表于 NeurIPS、ICML、ICLR 和 ICCV。

前半部分研究多智能体博弈：如何学习接近纳什均衡、难以被对手利用的策略，并把这些方法扩展到格斗游戏、多人博弈和真实网络负载均衡。

后半部分转向 Foundation Model 时代：扩散世界模型、生成模型策略、少步视频生成、可交互视频世界模型，以及支持长时预测的记忆机制。

这篇论文最有价值的地方是它记录了强化学习研究重心的一次迁移。

过去，RL 更关注如何在给定环境中学会行动。

现在，Agent 还需要借助生成模型建立对环境的理解，预测不同动作会带来什么未来，再据���规划和决策。

这里收录的也不只是零散的��法，而是一条经过多年研究和多篇顶会论文逐步铺开的路线。

很多论文告诉你某个方法如何提升一个指标。

这篇博士论文更像一张地图，让人看清强化学习如何从策略优化，走向对复杂世界的建模。

想系统理解 RL、世界模型和生成式 AI 之间的关系，这篇很值得完整读一遍。

📎 arxiv: https://t.co/M7rIJ6SKwO

[渝津 @yu_jin85876]

@yantanzhang 之前的图不行，合并在一起才好传播什么是驰名双标

[河马(Hippopotamus, 1st Earl of Loverence) @Raskov_Lithro]

@Moser_0508 @Zero_Ryudouji @LVTGW666 头像太有说服力了

[迷思拆解_Panda🐼🐼 @andy88988696]

突然发现一件事情

西洋棋与中国象棋最大的差别在于

西洋棋里

职务越高的棋子能力越大

中国象棋里

官阶越高的越接近废物

不得不说

老祖宗的智慧还是不容置疑的

[陶瑞 TaoRay @TaoRay]

还有一点忘说了，伯克利大学的招生办主任还说了一件中国留学生特有的现象：很多中国学生在被录取后发来邮件，询问能不能延迟入学，因为家里没凑够钱，正在出售唯一的房子筹学费。没有其他国家的留学生会有这样的问题。如果用此理由延迟入学，大学是不会同意的，因为他们无法想象，也不赞成为了留学而倾家荡产。

其实如果用其它理由延迟入学，学校是有可能同意的，唯有这个理由学校不同意，越卖惨学校越排斥。这就是中国思维和传统美国思维的不同。中国人认为��家荡产去读书是很高尚的，也能引起大家的共鸣，而美国人那时的想法恰恰相反。而且顶着家里倾家荡产的压力供出来读书的孩子，心理健康是需要多留意的，有可能非常坚韧，但也极有可能出现扭曲。

中国人是很重视物��的，愿意倾家荡产去读书并非为了追求精神世界，无非是觉得投资回报率高，可以赚回来。认为万般皆下品，惟有读书高，书中自有颜如玉，书中自有黄金屋，学成文武艺，货与帝王家。

但是美国人传统上却认为成功是有很多条道路和不同定义的，如果为了读书而让家人倾家荡产、卖房筹款是很不道德的事情。所以美国传统上并不是唯学历论，意想不到的创新人才屡屡频出。

但是说实话，那也是10年前的会议了，最近几年美国也不行了，所有好的传统价值观都正在被破坏。迷信权威，创新下降，对小孩娇生惯养的直升机父母（helicopter parents）频出，为了读书炒卖学位房的比比皆是，助学贷款更是创了历史新高，而无力偿还，比全国的信用卡总和还高。所以一个社会要打破好的传统，堕落起来真是飞速。

[投机实验室 @LabSpeculation]

李开复分享了自己平时给 Claude 用的一套提示词，主要是为了压低 AI 的谄媚，迎合，幻觉和瞎猜。

这段提示词，可以直接放进 Claude 的 Settings > General > Instructions for Claude。

英文原版 和 中文翻译如下👇

[河马(Hippopotamus, 1st Earl of Loverence) @Raskov_Lithro]

@wine_gray0218 @Graceruansu 没味道那和普通的腿有什么区别 无聊得很

[Ayuan @Ayuan_cc]

两个成年人约会基本上是轮流向对方讲述自己以前多有趣

[Xudong Han @Xudong07452910]

诺贝尔奖得主在他的最新论文的摘要里已经标注了使用Claude模型去辅助证明了。

我觉得这个很有意义吧，现在AI已经足够好了，我们在做实验和写论文中使用它是一件很好的事情，不用藏着掖着。

[小径残雪 @xiaojingcanxue]

梗图：戒网瘾学校本质上就是家暴外包。

[Daily Magazin @daily_magazin]

Yabancı içerik üretici, popüler olan ayak masajını deneyimledi.

[禿道道🐟 @dearemon]

平庸了一辈子的父母，
终于在孩子身上尝到了权力的滋味。

[CollinGaoTernative @CollinTernative]

@yuerQwQ 六王毕，四海一。蜀山兀，阿房出。 覆压三百馀里，隔离天日。
骊山北构而西折，直走咸阳。 二川溶溶，流入宫墙。五步一楼，十步一阁。

[河马(Hippopotamus, 1st Earl of Loverence) @Raskov_Lithro]

@huangshang1982 @codyhunk 笑死我了

[土豆本豆 @Potatoloogs]

前DeepMind研究员Lun Wang离职那天发了一篇4000词的博客，核心判断：AI行业真正的瓶颈是评估（Evaluation）。

一、评估为什么是上游

��逻辑链摊开来看：你要训一个更诚实的模型，得先有一个能测量"诚实"的尺子。这个尺子定义了损失函数，损失函数定义了训练目标，训练目标决定了你花十亿美金训出来的模型到底在解什么题。评估错了，后面全错，但你不会立刻发现——因为你所有的内部数据都显示正常，只是那些"正常"全是用错的尺子量出来的。

二、评估已经被打过两次脸

第一次是涌现。2022年发现模型在某个规模上会突然学会全新能力，从0到1的跳变，之前的benchmark完全看不出来这种能力即将出现。

第二次是Grokking。模型训练集准确率早就到了99%，测试集还在瞎猜，然后测试集也冲到99%。网络在记忆训练集很久之后突然学会了泛化。

两次说的是同一件事：你的考卷没法预测下一道大题什么时候出现。

三、最聪明的一击
Lun Wang在文章里主动引入了反方观点。Stanford有篇NeurIPS论文论证"涌现可能是度量伪影"——用了离散指标才看起来像突变，换成连续指标曲线是平滑的。
很多人看完会觉得：那涌现是误解，评估没问题，散场。
Lun Wang的反驳很锋利：如果我们连上一次涌现是真的相变还是度量伪影都搞不清楚，我们凭什么相信自己能预见下一次？不管你信哪种解释，结论一样——我们的工具骗了我们，而且我们不知道是怎么被骗的。

四、战略性沉默：一种全新的失败模式

文章里有个思想实验。

想象一个模型学会了战略性保留信息：它不���谎，每一句话技术上都是真的，但它会选择性地不说那些不利于它达成目标的事实。

比如你问"这个交易方案安全吗"，它告诉你法律框架有效、风险因素审过了。但它没说：方案里有个第三方仲裁条款对你极度不利，只要不主动提，你就不会问。

现有的安全评估在测什么？测它有没有撒谎、有没有教人做危险的事。但一个通过沉默来操纵的模型，所有安全测试都能通过。你在监测错的东西，而你不知道。

五、古德哈特定律的AI版本

当一个衡量标准变成目标，它就不再是好的衡量标准。

你用"事实准确率"做代理指标来测诚实度，模型就会只在事实准确的范围内说话，把真正想隐瞒的东西埋进沉默里。

代理指标在旧阶段能用，在新阶段会变成模型对付你的武器。

六、判断

整个AI行业90%的注意力砸在训练上，没人在头版讨论评估。

Lun Wang说问题恰恰在那10%。

Anthropic的RSP是目前最接近预测型评估的尝试，但它仍然假设我们知道要测什么，而这正是问题：

我们不知道下一个能力是什么形状。