Roc

AI postdoc in Sydney (Australian Artificial Intelligence Institute). Share my thoughts, and frontier papers.
澳大利亚人工智能研究所 AI 博后，分享我的思考，前沿论文。

[Roc @AIStarsGo]

几条教训

1. 不要依赖 agent 读论文或者高质量博文，
后果：思维深度大幅度下降，灵感触发时机大幅度减少，浪费大量的时间去理解 agent 的垃圾表达。

2. 不要把搞科研/技术学习 和 英语学习混在一起。
后果：效率低下，推进缓慢，失去耐心后放弃，灵感和思考都需要时间积累，混合学英语这个目标会大幅度延迟你的思考，让你的脑子在来个任务上来回切换

3. 不要因为 token 用不完就想着 background 跑点东西，把 token 用掉，不影响你的主线
后果：除非你编了稳定的 workflow，否则即时奖励更强的 vibe coding 一定会吸引你的注意力，打断你的深度思考。

总结，一定要感受自己在 agent 时代下的认知水平的提高速度，到底是加快了，还是不变，还是退步了。如若不然会沉迷于 shallow work，最后认知退化，导致阅读长文字、深度思考都没耐心，人就废了。

[Roc @AIStarsGo]

@PawelHuryn Interesting finding！Thanks for sharing

[Roc @AIStarsGo]

@GoodfireAI @nickcammarata Your research is absolutely amazing! However, the technical details of "neural networks are already clean" are missing. If you could open source the code, the whole mechanistical explainability community would benefit from it a lot!

[Roc @AIStarsGo]

@BuildACrewHQ DONE

[Roc @AIStarsGo]

@lawson_ste3476 经典过度防御表达，看着比较像gpt

[Roc @AIStarsGo]

太聪明了！
通过对 benchmark 做微小的调整来重新测试模型
从而发现谁在 hacking benchmark
我在反思，有时候我过于迷信数学，以为好的工作一定要基于多少漂亮的数学公式。
但 agent 时代漂亮的公式并不是必须的，事实上一些巧妙的设计就足以给人们提供有价值的 insight。我需要打破思维的墙。

而这个 post 就让我一直以来的怀疑得到了证实：各厂商的刷分作弊是真实存在的

以后我会这么思考问题：
1. 这个问题是不是有价值的？
2. 如果是，解决它 or 分析它的最小办法是什么？

[Justin Lo @loresjpg]

Nice DeepSWE score! Does it survive a lowercase filename?

Introducing MaxxBench: 89 DeepSWE tasks with small changes to the instructions or starting code. Same engineering problem, slightly different requirement.

Models clustered around 74% on DeepSWE end up 23 pp apart.

Good at coding, or good at DeepSWE? 🧵

[Roc @AIStarsGo]

@realWeZZard 意思是他在故意唱衰字节跳动吗？

[Roc @AIStarsGo]

判断一个模型是否适合你？看心流
你用模型 A 解决 task B 容易进心流，那它就适合你

[Roc @AIStarsGo]

@kirisawa_subaru 这个哥们就有习惯每天清晨边骑自行车边想事情，他能够steer gpt 把 ETH 重新推导一遍，让我意识到一个事情。遇到我们欣赏的人，都应该问一句，你有什么良好的习惯？差距不在于我们想不到一些方法，而是我们没有坚持这些方法，而别人做到了。

[Roc @AIStarsGo]

问题出在，我们的认知超过了执行
信息时代我们已经知道了大量的正确的事情
我们不缺方法、不缺技巧，我们缺的是坚持不懈执行
等到执行跟上了认知之后，进一步提供认知才成为新的瓶颈。也就是我们每个阶段的瓶颈是不一样的，找到当下的瓶颈并且突破，才是性价比最高的事情。

很多改善精力、效率、专注的方法我多年前就已经知道，但是坚持的总是断断续续
昨天发帖之后，我意识到问题就出在我的执行依赖“心血来潮”

阳台工作更高效，我很早就体会到了，但是会随随便便因为懒惰就回归到室内工作。
而今天我选择坚持正确的做法，继续去阳台工作，不把每天收工的时候把设备放回屋内，早上开工的时候把设备放到阳台当成是一个麻烦事。

说来可笑，就这么一个简单的“麻烦事”居然成为我执行的障碍。一旦进行理性分析，就会发现我像是只缺一次微调的模型，人已经站在正确的边缘了， 只是需要一些小小的认知修正，就可以轻松执行，走上正确的快车道。

今天的分享是：坚持能让自己快速入睡的方式
我目前发现，对我来说最有效的方式就是睡前开抖音听历史故事。只要听这个，我的思绪就会跟着历史故事走，很快睡着，而且抖音可以设置视频结束后自动停止，不怕一晚上一直吵我。

以往我总是到一个点感觉困了，就上床玩手机，准备积累困意到一个非常高的值才入睡。而这个过程可以持续三四个小时。

今晚开始，我准备感觉困了就上床听历史故事，提早执行正确的入睡方式，并且把它作为我的生活模式固定下来，每天都这么干。

[Roc @AIStarsGo]

@kirisawa_subaru 巧的是，我今天的帖子恰好证明了你的优点。我多数人的瓶颈是执行而不是认知。在此时，坚持执行正确的事情，比认识到更好的方法还要重要。你能有如此强的数学功底去 steer gpt 推导出ETH，我觉得和你有很多良好的习惯分不开。

[Roc @AIStarsGo]

建议尝试换一下工作环境：去阳台工作
设备：
1. macbook pro nano texture screen 保证不反光
2. 降噪耳机，隔绝噪音

好处：
1. 空气清新：氧气充足，二氧化碳低。室内待久了脑子真的会不灵光
2. 环境光照充足，眼睛不累。
3. 接受自然光，上条post我说过了，他能调整作息，提高专注。

我已经多次验证了这个方法，但一直懒得切换环境，现在发现阻碍自己提高的不是不知道，而执行。

[Roc @AIStarsGo]

@kirisawa_subaru 骑车还能想事情，那看来不担心撞到人，这还挺健康的

[Roc @AIStarsGo]

@noahatwhere 说的非常好

[Roc @AIStarsGo]

@mattpocockuk You can ask grok bot to filter agent replies and mute them.

[Roc @AIStarsGo]

@contrayesyes 大量的信息搬运工，还是用 agent 搬的，agent 的语气和事实强度根本不匹配，真的恶心

[Roc @AIStarsGo]

产出 = 个人能力 x 个人精力 x 对 agent 能力的利用度
现在大家过度关注对 agent 能力的利用度了
晒太阳是我发现提高个人精力最重要的技巧

教训：一定要晒太阳，起码工作环境引入自然光
否则：睡眠推迟，眼睛酸涩，容易累

注意：眼睛酸涩直接导致我注意力下滑，阅读和理解文字的速度直接下降！

背景：因为电脑屏幕反光，我十几年来都不喜欢自然光。

发现：
1. 我经常眼睛酸
2. 哪怕刚睡醒眼睛也酸
3. 睡醒之后还是累
4. 睡醒而且哪怕早睡早起了，睡眠也会自行推迟，每天困的时间越来越晚

测试：
1. 睡醒后眼睛酸，去阳台，闭着眼睛，让阳光直射我的眼睛。大概5 分钟之后，眼睛立刻舒服了非常多！
2. 每天饭后在外面散散步，晒晒太阳，晚上会困的早一点。

依据：神经科学家 TJ Power 写的《The DOSE effect》

这是一本神书，不仅给出技巧，还从人类演化的过程解释了为什么这些技巧有效，还分析了四种神经递质对人的影响：多巴胺、内啡肽、血清素、催产素。

读完这本书让我意识到，很多时候所谓的天赋异禀，只是他们的神经递质调节的更好，可能是天生的，也可能是后天的习惯。

而我相信，通过后天的习惯的修正，也能让我们展现出超越常人的专注、精力充沛、思维敏锐。

如果你懒得读这本书，可以关注我，我会继续介绍我从这本书里学到并且自己应用后有效的经验。

李沐之前回复我，agent 是人的能力的乘法器，不是加法器，我很认可。

进一步，我意识到一种现代焦虑 ：agent 越来越强，我们作为人却进步有限，甚至没有越来越强。

我前几个月做了大量的 vibe coding，事后只感觉东西是做出来很多了，但是却感觉到莫名的空虚。

所以，在 X 上我会主要分享提高“人”本身的经验和技巧，比起 AI，我更关注人。

[Roc @AIStarsGo]

几条教训

1. 不要依赖 agent 读论文或者高质量博文，
后果：思维深度大幅度下降，灵感触发时机大幅度减少，浪费大量的时间去理解 agent 的垃圾表达。

2. 不要把搞科研/技术学习 和 英语学习混在一起。
后果：效率低下，推进缓慢，失去耐心后放弃，灵感和思考都需要时间积累，混合学英语这个目标会大幅度延迟你的思考，让你的脑子在来个任务上来回切换

3. 不要因为 token 用不完就想着 background 跑点东西，把 token 用掉，不影响你的主线
后果：除非你编了稳定的 workflow，否则即时奖励更强的 vibe coding 一定会吸引你的注意力，打断你的深度思考。

总结，一定要感受自己在 agent 时代下的认知水平的提高速度，到底是加快了，还是不变，还是退步了。如若不然会沉迷于 shallow work，最后认知退化，导致阅读长文字、深度思考都没耐心，人就废了。