禅与SpMachine的维修艺术

spanker
不约
无所谓了
言简意赅
我要你

[禅与SpMachine的维修艺术 @Ziffence]

猫坏
大半夜对我哈气
死倔
伸爪子挠人
玩具不够玩非要玩我的手和脚还有塑料吸管
每天在家里跑酷
长的猥猥琐琐行为偷偷摸摸
非要吃掉地上的而不是猫碗里的
猫好
因为是我的猫

这样其实不好
沉浸在自我感动里的溺爱并不能让猫变得更好更听话
猫需要吗
谁知道呢

于是我傲慢的断言
我不需要听话的小猫

[禅与SpMachine的维修艺术 @Ziffence]

@ritaxxxgl 而且离谱的是他握持的地方变色了(还是个温感的

[Max For AI @MaxForAI]

有点震撼。。。我们可能真的快要搞清楚大模型内部到底是怎么运作的了。

OpenAI早期机械可解释性研究的参与者，昨天突然提出了一个很大胆的结论：

我们可能一直误解了神经网络。

昨天， @nickcammarata 发了一篇很有意思的文章，叫《Neural Networks Are Already Clean》。

这哥们早年就在OpenAI做机械可解释性研究，2023 年还牵头启动了@OpenAI 第一个大规模自动化神经元解释项目。

当时他们发现，现有工具只能解释大约 2% 的神经元。

Nick因此得出了一个很悲观的判断：神经网络内部存在大量纠缠，想搞清楚它们到底在干什么，可能非常困难。

结果三年后，他带着更先进的工具和Agent重新研究，发现情况完全不同。

在他们测试的现代视觉模型中，最后一层 99%～100% 的神经元都能找到相当清晰的解释。

甚至在Qwen3-32B这样的语言模型中，初步研究也发现，约90%的神经元都有一个可以识别的主要功能。

最有意思的是，他还重新研究了过去的一些经典案例。

比如曾经有一个神经元，既会对猫脸产生反应，也会对汽车前脸产生反应。

以前大家觉得，这是典型的Superposition，多个不相关的概念纠缠在了同一个神经元里。

结果重新研究后发现，这个神经元可能只是在识别一种共同的V形视觉结构。

猫脸和汽车前脸恰好都有这种特征。

全世界的家人们折腾了这么多年，可能连最基础的观察方式都有问题。

而且我觉得这篇文章最值得关注的，其实是他们使用 Agent的方式。

他们让Agent自动观察神经元、提出功能假设、设计实验、分析电路，再通过新的输入验证假设，甚至自动审查了10 万张神经元归因图。

这其实也是我最近一直关注的一个方向：让 AI 自己去做科学研究，把大量观察、假设、验证的工作自动化。

过去需要研究员花大量时间逐个分析的神经元，现在已经可以让Agent成规模地开展研究了。

当然，目前这些结果还处于早期阶段，距离完整解释大模型的内部机制，还有很多工作要做。

但我觉得Nick提出的这个观点非常有意思：

神经网络内部可能一直都很有规律，只是过去我们的工具太原始，根本看不清楚。

如果这个方向最终被验证，机械可解释性领域过去很多基础假设，恐怕都需要重新审视了。

[禅与SpMachine的维修艺术 @Ziffence]

@ritaxxxgl ？

[禅与SpMachine的维修艺术 @Ziffence]

我不管那么多了
我还是决定要继续做一样的选择了

[禅与SpMachine的维修艺术 @Ziffence]

@ritaxxxgl 难办？那就别办！(掀桌

[禅与SpMachine的维修艺术 @Ziffence]

@ritaxxxgl 睡觉睡觉行不行 还逛呢

[禅与SpMachine的维修艺术 @Ziffence]

人们说晚霞似锦，晚霞如血，我觉得晚霞像晚霞一样晚霞，似血似锦都是别人的殖民，晚霞就是晚霞

[禅与SpMachine的维修艺术 @Ziffence]

还跌还跌
再跌真不买了我笑死了

[禅与SpMachine的维修艺术 @Ziffence]

那就让我 再赌一次

[禅与SpMachine的维修艺术 @Ziffence]

好吧是甲乙丙丁

[禅与SpMachine的维修艺术 @Ziffence]

怎么做宫保鸡丁～～

[禅与SpMachine的维修艺术 @Ziffence]

@ritaxxxgl 逆子照这个学

[禅与SpMachine的维修艺术 @Ziffence]

我的剑也未尝不利

[双层牛肉汉堡 @Nohomework0]

绝大多数学术圈的人，从教授到研究生，每天的工作就是给自己不停洗脑，实际上他们的工作一文不值。

[禅与SpMachine的维修艺术 @Ziffence]

@Phoenixyin13 黑白分明是种古典的病
长在钢琴骨髓里面

[Zmorrrrr @Zmor537174]

很多人以为，SM里只要照着S的话去做就够了，但真要只是这样，很快就会变得乏味。
S必须是那种让人心甘情愿想被引导、甚至渴望被掌握节奏的人； 而M，也要有那种让人一旦靠近，就忍不住想深入干预、慢慢掌控的吸引力。
所谓“顺从”，从来不是把脑子关掉，把自己像玩偶一样整个交出去。那只是空壳。
真正的顺从，是人在清醒的时候，仍然主动选择回应。
你感觉到对方的视线像带着温度一样落在身上，语气和节奏一点点压过来，你没有躲，反而微微发颤，顺着那股力量，把自己一点点送进对方设好的范围里，任由对方打开、探入、占有。
这个过程带着暧昧又危险的压迫感——
明知道自己正被缓缓剥开、最隐秘的地方正被看穿，却湿得一塌糊涂，依旧舍不得离开。
关系从来不是单方面主导就能成立的，而是在若即若离的试探里慢慢确认边界、交换控制权
直到某一刻，两个人的节奏彻底咬合在一起，连呼吸都黏在一起，分不清谁是谁的

[禅与SpMachine的维修艺术 @Ziffence]

老来多惊梦
似有献刀人

[禅与SpMachine的维修艺术 @Ziffence]

午休
然后该干嘛干嘛(笑