Bryan

Vive la liberté
#GoHabsGo

[Anatoli Kopadze @AnatoliKopadze]

https://t.co/eq0oL4fIaR

[黄小木 @ai_xiaomu]

https://t.co/hoYijLzfus

[Mengke Wang @MengkePM]

https://t.co/ghUgtm1M1w

[Phoenix Yin @Phoenixyin13]

我认为这是三年以来AI对齐的史诗级突破。

OpenAI 团队刚刚丢下一颗重磅炸弹：最新研究论文 《Reinforcement Learning Towards Broadly and Persistently Beneficial Models》。
这一次，他们彻底颠覆了传统的 AI 对齐路径，打破了越安全越笨的魔咒。

这次，杀招是Beneficial Trait RL，我们中文翻译为益处特质强化学习。
他们直接去训练 AI 的核心行为特质，比如诚实、纠错能力、认知谦逊。
这次，OpenAI直接重塑了 AI 的底层人格。

这次，研究人员仅仅在医疗健康一个特定领域训练了 AI 的这些有益特质，结果发现：
AI 在医疗以外的、完全没见过的 53 个 OOD测试中，在超过 80%的基准测试上性能全面飙升。它自动学会了拒绝Reward Hacking。科技终于不再盲目迎合，甚至学会了自动识破欺骗。这是伟大的进步。

这次，经过特质强化训练的模型，展现出了惊人的Persistence。
即使面对恶意洗脑和有害微调，它依然能够死死守住底线，拒绝退化。
我们可以确定，它拥有了真正的精神抗体。

在 AI 对齐领域，一直存在一个让人绝望的对齐税，即Alignment Tax。
你想让 AI 越安全，它的通用能力通常就会下降，或者变得极其缩手缩脚。
但 OpenAI 这次用数据证明了，给 AI 注入美德，不仅没有让它变蠢，反而让它在面对未知世界时更加强韧、更有智慧。

这次，Step-change般的胜利告诉我们，当 AI 开始拥有广义的、持久的、能够跨越领域的向善人格，我们距离真正安全、能替人类走向星辰大海的 AGI 代理，又极大地往前迈了一步。未来，当然可期。

[Zach Lloyd @zachlloydtweets]

https://t.co/NQU5x41jta

[Tigris 会讲课教授是好老师 @tig88411109]

https://t.co/rZGJs8pipC

[Vincent | 信号＞噪音 @VincentLogic]

有人开源了一个隐形提词器，藏在 MacBook 的刘海里

开视频会议的时候最尴尬的一件事就是：你要么看屏幕上的内容，要么看摄像头。两个不可能同时做到，对面看你的眼神永远是飘的

这个工具的思路很聪明。把提词内容显示在刘海区域，因为摄像头就在刘海正中间，你看提词的时候眼睛自然就对着摄像头了

几个细节：
- 隐私模式开着的话，共享屏幕对面看不到
- 速度、字体、宽度都能调
- 一个快捷键回退5秒
- macOS 原生运行，没有延迟

免费开源（GitHub地址放在评论区了）

配合 AI 用其实很顺：开会前让 Claude 或者 GPT 帮你整理要讲的要点，导进去，开会的时候一边看一边说，全程保持眼神交流

做产品演示、客户提案、面试的时候特别有用。以前用提词器要么买专业设备要么开个小窗口，现在直接藏在刘海里，对面完全看不出来

用 MacBook 开会多的可以试试，装完之后回不去

[夜谈 @gntalktalk]

斯坦福最新研究突破：Self-Guided Self-Play 如何让 LLM 实现自我进化？

在大模型训练中，我们一直面临一个痛点：高质量的推理数据是有限的。一旦模型学完了人类编写的高质量数据，其推理能力的提升往往就会撞上天花板。

最近，来自斯坦福大学的研究团队发表了一篇名为 Scaling Self-Play with Self-Guidance 的论文。他们提出了一种名为 SGS (Self-Guided Self-Play) 的算法，试图彻底打破这一瓶颈。简单来说，这项工作让模型不仅能做题，还能自动出题、自己审题，从而在不需要更多人类介入的情况下，进一步提升后训练和微调的效果，实现模型推理能力的持续缩放（Scaling）。

现在前沿模型公司，后训练和微调的时候都会使用自博弈（Self-Play）方法

自博弈（Self-Play）的核心理念是：出题者（Conjecturer）负责出题，解题者（Solver）负责做题，两者在对抗中不断进步。在理想状态下，这个过程是没有天花板的。

但在现实训练中，这类方法通常会陷入 “学习停滞”（Learning Plateau）：

出题者很快就会发现，只要生成一些逻辑混乱、故意堆砌复杂词汇但又不合逻辑的题目，解题者就很难解出，或者产生某种“虚假提升”。

训练退化：由于缺乏有效的监督，随着训练周期拉长，合成数据的质量迅速下降，导致模型不仅没学到新知识，反而越练越笨。

为了解决这一问题，SGS 引入了一个至关重要的角色——引导者（Guide）。在 SGS 框架下，LLM 同时担任三个角色：

Solver (解题者)：负责求解问题。
Conjecturer (出题者)：负责生成相关的合成问题，难度需与当前目标匹配。
Guide (引导者)：作为质量把关人，它负责评估出题者生成的题目质量。

Guide 会根据题目与目标任务的相关性、结论的简洁性以及逻辑的自然度进行评分。如果出题者试图通过“制造复杂逻辑冗余”来蒙混过关，Guide 会直接给出低分，强迫出题者回到高质量的学习路径上。

研究团队在 Lean4 形式化定理证明任务上验证了 SGS 的性能：

真正的持续 Scaling：在长周期的训练中（训练步数远超以往工作），SGS 的累计解题率表现出了极好的缩放特性，并没有出现以往常见的性能退化。

经过 SGS 长周期自我训练后，一个 7B 参数的模型，其推理能力甚至超越了未经过此类训练的 671B 参数模型（DeepSeek-Prover-V2）。

SGS 的意义，可以看成是 LLM后训练/微调领域的“AlphaZero 时刻”并不为过。它代表了一种重大的训练范式转变：

从单纯依赖人类标注数据的“手工作坊”模式，转向利用算法闭环自动生成高质量训练数据的“智能工厂”模式。

SGS 证明了在推理能力上，我们同样可以拥有“扩展定律”（Scaling Laws）。只要计算资源（Compute）充足，并且通过 Guide 机制守住数据质量，模型能力的提升就是可预测、可扩展的。

目前 SGS 在形式化验证领域（Lean4）已经证明了其价值。下一步的挑战在于如何将这种自我引导机制扩展到代码生成、复杂决策、甚至更广泛的通用逻辑推理领域。

我们可能正处于 又一次模型能力指数级增长的起点

[AI Dance @AI_Whisper_X]

拿遍硅谷顶级 lab offer 的人，写的ML面试指南

刚看完一篇 ML Research Scientist 面试指南，作者是 Silvia Sapora，PhD 做 ML，最后拿到了 DeepMind、Isomorphic Labs、Cohere、Meta和一家 stealth startup 的 offer，最后去了 DeepMind。
文章讲了很多实操指南，比如他说ML 求职已经越来越像一个工程项目、顶级researcher也会因为没准备面试而挂（原文里说，她认识很多极强的人，就是因为没准备而被拒）。感觉国内顶级researcher的面试也大概是这样。

总结一下看完体会最深刻的点，希望最优秀的研究员们，都能找到顶级的工作，不要因为没准备好面试，让才华短暂被埋没。
希望对大家有用。

1/ 拿到面试前，就是看简历
大家也可以按这个方向完善自己的履历：
3 篇以上一作/共同一作顶会 paper，至少一次大厂/前沿实验室实习，才比较稳定拿到 top lab 的 callback。

这里还有几个小细节：
a.cold email 可能比想象中有效。尤其是直接写给 hiring manager 或团队成员，不要重复 CV 上已经有的东西，而是要讲清楚：你为什么 fit 这个 team，你为什么真的对他们的工作感兴趣。
b.cover letter 不要完全交给 LLM 写。可以让 LLM polish，但原始内容最好自己写，要有真实兴趣和个性。
c.LinkedIn / X 上的岗位信息要对看。很多 internship / research role 可能只通过某个 researcher 的帖子和 Google form 流出来。

2/ 一旦进面试，忘掉CV
但一旦进入面试，CV 基本就没用了。
很多面试官甚至不会仔细看你的简历。你有再多 ICLR / NeurIPS / ICML paper，这时候都没什么用了。

https://t.co/r621a95Cyp 面试现在已经非常“杂技化”。
LeetCode、ML coding、debugging、ML fundamentals、LLM/RL/diffusion、system design、research discussion，全都可能问。
说白了，更像是一个压缩版竞技项目：45 分钟内，在陌生人注视下，把你平时几个月慢慢想、慢慢查、慢慢 debug 的东西，现场做。

b.这里有个很实用的方法。
每次面试前，她会把JD、公司、面试类型丢给 LLM，让它 mock interview，而且实际问题经常撞上（笑死，毕竟我估计问题也是AI写的）。
她还列了一张 baseline 清单，能在限时下从头写出来，才算状态在线：
① 端到端实现一个 transformer
② causal / cross / self attention
③ flash attention，以及它的 backward pass
④ MLP 的前向和反向
⑤ 用 PyTorch 或 JAX 写一个带 SGD 的训练 loop

c.还有个细节，越到顶级 lab，越不能靠“我懂这个方向”混过去。他们会问到非常基础，也会问到非常细，甚至会问你熟悉领域里最容易被忽视的部分。

3/ 情绪管理
她说自己最严重的问题是睡不好。一周 10 场面试的时候，整个人快被榨干。她还吃不下，看到食物会反胃，最后只能靠猛灌可乐补糖续命（她也说了，这不是什么最优解，只是她当时能想出的唯一办法）。
她还有一套面试前仪式：背景里插一束新鲜的花、化妆、看同样几个 comfort 视频。
听起来很琐碎，但我觉得非常真实。高压面试最可怕的，不一定是你不会，而是你明明会，但脑子突然空白。

4/ 谈薪是一场暗战，而且你大概率被读穿了
一天最好只排一场面试；先面自己没那么想去的公司练手；让不同 offer 尽量落在同一个窗口。
然后，主动告诉每家公司你还有其他流程。听起来很“职场”，但这些真的会影响最后结果。

到了谈 offer 阶段，peer offer 的重量也完全不一样。OpenAI / Anthropic / DeepMind 这种互相之间的 offer，才真的有谈判筹码（这部分大家都熟练了）。
这部分不要太信“谈判要像盲拍、别亮底牌”那套，好几家公司明确要求她出示竞争 offer 的截图才肯加价，有一家甚至当场质疑她截图的真假（lol）。

而且 recruiter 极其会读人。你多频繁提一家公司、用什么语气谈论它，全都是会被记录的信号。一旦对方知道自己已经是你的首选，你的谈判筹码基本就没了。她说自己很透明、很好读，所以在这上面吃了点亏。
唯一让人稍微松口气的是：公司真的想要你的时候，能报的数字比你以为的大得多。永远值得开口问，多数公司愿意谈。

其实她的履历已经很顶了。但她复盘下来，最有用的结论反而很朴素：做研究，和通过 ML 面试，是两套能力。
https://t.co/OGOeaiRqQ6

[vivek @itsreallyvivek]

https://t.co/ZhOgyq7Vgn

[Xiuyu Li @sheriyuo]

Had another hour long interview today. We spent most of the time discussing the AI gap between China and the US, the different industry directions for pretraining and post-training, and what meaningful post-training research still looks like in industry. The interviewer was genuinely friendly and thoughtful, and I enjoyed the conversation a lot.

Of course, the RL interview questions still show up in earlier rounds. At this point, I can confidently say that every RL question I have been asked is essentially a subset of the 35 questions from my collection. The difference is not whether you have seen the question before, but how deeply you understand it.

I hope interviews help candidates understand the company, the role, and the technology behind the work, rather than becoming an exercise in reciting answers or grinding endless LeetCode problems.

Interestingly, I have not been asked a single LeetCode question. Instead, I have been doing hands-on RL coding exercises, which I honestly enjoy much more. After all, you cannot let Claude write everything for you :)

[Phoenix Yin @Phoenixyin13]

下午，有好朋友在群里发了一个美国大学CS TierList，感觉很有趣可以分析一下。

Tier 0，四大天王，The Big Four
没什么好说的。

这个完全没有争议。在 CS 领域，这四所学校就是神一般的存在：无论是拿到图灵奖的人数、硅谷的统治力，还是顶会的论文产出，MIT、Stanford、UCB、CMU都处于绝对的断层领先地位。

Tier 1，工业界与学术界的顶级巨头
成员：UIUC、华盛顿大学、佐治亚理工、UT奥斯汀、普林斯顿、密歇根大学安娜堡

这里的UIUC、UW和GT是著名的CS强校。目前我的另一个好朋友也在UIUC科研，听他说，他很喜欢玉米地。华盛顿大学，得益于西雅图得天独厚的地理位置。其 CS 实力和就业甚至可以硬刚 Tier 0。普林斯顿虽然是顶尖常春藤，但它的 CS 理论研究极强，放在这里实至名归。

Tier 2，性价比与专业实力双高梯队
成员：UCSD、Purdue、康奈尔、哥伦比亚、UCLA、马里兰、加州理工

这一层，混杂了系统与工程强校，比如 UCSD、普渡、UMD，和藤校、顶尖私立名校，比如如康奈尔、哥大、加州理工）。
在 CS 领域，UCSD 和普渡的系统架构、网络方向研究甚至可以和更高级别的学校叫板。

Tier 3，综合名校群
成员：Harvard，纽大，埃默里，宾大，杜克，耶鲁，西北，南加州大学

这个是我觉得有争议的点。
哈佛计算机系虽然规模极小，当然这也是它们在这个图里吃亏的原因，但它们走的是精英文人路线，极度偏向计算机理论、密码学和算法复杂度。
比如哈佛的理论计算机团队、宾大的计算机逻辑与编程语言方向，在学术界都是顶级殿堂。
用代码加工厂的产量去衡量这些搞底层理论的大神，本身就是一种指标错位。

在我看来，这更像是一张由大厂程序员或CS 、AI学生制作的、极具极客精神的鄙视链图。

当然，对于想在计算机领域死磕技术、去硅谷或科技大厂搬砖的人来说，这张图的参考价值远比传统的 U.S. News 综合排名高得多。可以参考借鉴。

但是，如果你是一个目标去华尔街做量化、或者利用名校光环去搞科技创投VC的人，那这个图就是噪音。
哈佛招牌和它带给你的顶级阶层入场券，并不是这个排名可以忽视的。

[Silvia Sapora @silviasapora]

After interviewing for Research Scientist roles at DeepMind, Isomorphic, Meta, Cohere and more, I wrote up everything I learned. Technical prep, logistics, negotiation, and emotional breakdowns. Check out my guide: https://t.co/eLh20ggMHW

[Addy Osmani @addyosmani]

https://t.co/hIe0UX7z6T

[Rahul @sairahul1]

This is the best site on the internet to learn harness engineering.

Free. Completely.

Most AI engineers have never heard the term.

https://t.co/bwDbTTYsjM

Bookmark this site.

Then read this setup ↓

[Xiuyu Li @sheriyuo]

https://t.co/aJEXibSlmN

[Peter Pang @intuitiveml]

https://t.co/Co7vCLvCpu

[Xudong Han @Xudong07452910]

https://t.co/fz7WT5DUmU

[实践哥MinLi @MinLiBuilds]

https://t.co/gksXMUvqr8