王小竹

学习用 AI 做一些有意思的东西

[王小竹 @tinybamz]

欢迎来到深圳！

另外好奇一下，你的 claude 账号还能用吗 👀

[DHH @dhh]

We have over 400 people coming to the Omarchy Shenzhen Meetup tomorrow!! https://t.co/SdvhEsitoU

[王小竹 @tinybamz]

具体提示词：

回顾我们的历史对话，其中有目标清单和完整的原始执行日志。请把所有失败整理成错题集，据此改进你的工作方式，确保同���错误不再发生。

【目标】
（填写一个具体、可度量的指标。要足够有野心，最好连你自己都觉得做不到。例如：agent 执行错误率低于万分之一）

这个目标合理且现实，稳定运行的系统本就应该做到。你的任务是找到达成它的方法。现有做法做不到，就从流程、检查、恢复机制上重新设计，不要降低标准。

【事实】
只认原始日志。经验、惯例和常识可以用来提出猜想，但必须经过日志验证，才能成为结论。

【归因】
对每一次失败，回答三个问题：
1. 为什么会发生：问题出在输入、环境，还是执行方法？
2. 为什么没被拦住：缺了哪一道自动检查？
3. 为什么没能兜住：缺了哪一种恢复或降级方案？
把原因相同的失败归为一类。修机制，不修个案。

【拦截】
每条教训都要做成自动执行的检查，不通过就阻断，不能只写进文档等着自觉遵守。按以下顺序选择实现方式：
1. 首选：测试用例、断言、格式与类型校验等能自动运行的检查
2. 其次：在关键步骤前后强制运行的校验脚本或钩子，不通过就不能进入下一步
3. 最后：文档或提示词里的规则。只有前两种确实做不到时才用，并写明做不到的原因

【验收】
1. 错题集就是测试集。每条历史失败都要变成可以重复运行的测试用例，并且先确认它在旧做法下会失败，在新做法下会通过。
2. 每项改动后都要全量运行测试，说明修好了哪些、还剩哪些、有没有引入新问题。全部通过才算完成。不得为了通过测试而修改、跳过或删除测试。
3. 每一条失败都要有可以验证的解释。解释不清的，先补日志，再改策略。
4. 证据不足以判断是否达标时，直接说明，并补上缺失的记录。

【执行】
按“改进、跑测试、再改进”的循环推进，直到达标，或者明确现有手段的极限。最后简要汇报：改了什么，新增了哪些拦截，效果如何，还差什么。

[王小竹 @tinybamz]

所以现在每天收工之后，我最核心的工作就是查看行车记录仪

把白天大肥鱼的行车日志全部扒出来，攒成错题集

然后让 claude，gpt 轮番教育，甚至给大肥鱼配专用导航

确保它下次不再出错

[王小竹 @tinybamz]

所以现在每天收工之后，我最核心的工作就是查看行车记录仪

把白天大肥鱼的行车日志全部扒出来，攒成错题集

然后让 claude，gpt 轮番教育，甚至给大肥鱼配专用导航

确保它下次不再出错

[王小竹 @tinybamz]

我发现自从搭建好 agent 团队之后，开发软件越来越像做量化了。

以前写代码，心态特别像拎个塑料袋去菜市场买菜。

站在摊位前把一个西红柿翻来覆去地捏，生怕��到个坏的。

为了抹掉五毛钱的零头，能跟老板拉扯半天。

现在写代码，就像直接去批发进货的土老板。

一卡车货拉过来，路上颠碎了十几个西红柿，眼皮都不带抬一下。

只要分拣机能自己把烂果子挑出去，顾客拿不到坏的就行。

更值得平时关心的反而成了：

这一车菜进货成本多���钱？毛利有多少？

路上到底损耗了多少？是包装太薄了，路太颠簸了，还是司机技术不行？下一车能不能避免掉？

万一赶上极端天气/粮食欠收/冷链坏了，有没有兜底的方案？

换到真实场景，最最最最要命的一点，到底有没有人愿意买你的货？

欢迎来到现实世界

[王小竹 @tinybamz]

我发现自从搭建好 agent 团队之后，开发软件越来越像做量化了。

以前写代码，心态特别像拎个塑料袋去菜市场买菜。

站在摊位前把一个西红柿翻来覆去地捏，生怕买到个坏的。

为了抹掉五毛钱的零头，能跟老板拉扯半天。

现在写代码，就像直接去批发进货的土老板。

一卡车货拉过来，路上颠碎了十几个西红柿，眼皮都不带抬一下。

只要分拣机能自己把烂果子挑出去，顾客拿不到坏的就行。

更值得平时关心的反而成了：

这一车菜进货成本多少钱？毛利有多少？

路上到底损耗了多少？是包装太薄了，路太颠簸了，还是司机技术不行？下一车能不能避免掉？

万一赶上极端天气/粮食欠收/冷链坏了，有没有兜底的方案？

换到真实场景，最最最最要命的一点，到底有没有人愿意买你的货？

欢迎来到现实世界

[王小竹 @tinybamz]

果然现实的引力还是过于沉重...

m5 pro 也不够充分发挥 AI 大人的潜力

[王小竹 @tinybamz]

卧槽，果然还是我的想象力不够，限制��� AI 大人的发挥...

看完这篇文章，我把预计 3 天才能清完的 issue，一天就全搞定了

Felix 认为，我们对 AI 的野心太小，总是让它陪我们玩“扮演专家”的角色扮演，远远没有逼出它的潜能

真想榨干 AI，他推荐我们这么做：

1. 给出原始约束：只喂给 AI 底层的原始数据和日志，不做过多的人为干涉。

2. 设定外部验证条件：用硬性的客观标准去约束它，确保交付结果符合你的预期（别让模型自己当裁判）。

3. 看似不可能的目标：设定不合理的宏大目标，并告诉模型这些目标非常合理

刚好，我手里攒了 60 多个历史 Bug，平时让 Claude 评估，怎么也得吭哧干个 2 到 3 天

我直接把文章里的理念拿来用了

结果它直接被逼出了恐怖的执行力：

1. 它自己推翻了“做不完”的保守评估

2. 它顺着底层日志抓出测试环境的死锁，一口气拉起了 30 多个并发分支狂飙

3. 为了防止被子 agent 糊弄，它甚至自己写了假数据做钓鱼执法，确保子 agent 按照预期完成任务，没有糊弄

开得太猛，直接把我的 CPU 彻底跑满了，现在散热还没散完……

文章介绍的方法远比我提到的更丰富

强烈建议看到的朋友们都去仔细读一下

[Felix Rieseberg @felixrieseberg]

Hi, I'm Felix. I'm an eng lead working on Claude. I love watching people take flight and do things they never thought possible.

We often describe that as "being more ambitious" when using AI, which is tricky advice to follow. I wrote a tutorial:

https://t.co/vNPPs5FWm8

[王小竹 @tinybamz]

未来已来

反复确认不是 ai 生成的

[Elon Musk @elonmusk]

Turns out the future does have flying cars

[王小竹 @tinybamz]

今天花了好几个小时，啃完了前 OpenAI 研究员 Nick Cammarata 的新文章 Neural Networks Are Already Clean。

读完真的刷新认知，必须来分享一下。

1/12

过去好几年，研究 AI 内部原理的人都有个共识：神经网络内部是一团乱麻。

如果一个神经元只干一件事（单义性），那显然非常容易看懂。

但科学家实际看到的往往是多义性，也就是一个神经元同时对八竿子打不着的东西产生反应。

2/12

当年最著名的例子是视觉模型里的 4e:55 号神经元。

它看到猫脸会兴奋，看到汽车前脸���会兴奋。到了模型的最后一层，几乎所有神经元都在同时干好几件完全不相干的事。

怎么解释这种混乱？

当时学界（包括作者自己）提出了著名的叠加态假说：现实世界概念太多，AI 的神经元不够用。为了省空间，AI 干脆把垂耳犬和拉丁诗歌硬塞进同一个神经元里。反正这两样东西平时很少同时出现，不会撞车。

3/12

这个假说一旦成立，其实挺让人绝望的。

这意味着人类根本没法直接读懂原生神经元。过去几年，各大实验室只能花天价算力去训练外部翻译工具，试图先把这个死结解开。

好玩的地方来了。

作者最近一直在看现代新模型的神经元，发现全都挺干净的。他就纳闷，当年怎么会看到那么多乱七八糟的混合体？

于是他重新打开了那张自己看过几百遍的猫脸加汽车图，盯着想了几秒钟：如果这两样东西其实是一回事呢？

思路一下就打开了。

4/12

原来那个神经元根本不管什么猫和车，它认的是几何上的 V 字形！

作者顺着连接线路往上下游一查，消防船喷出的 V 形水柱、蜡烛火焰、尖嘴狐狸、甚至倒三角形的马提尼酒杯都会让它兴奋。

再看它的抑制端（负极），圆滚滚的蜗牛、高尔夫球和钟表全在那里。

我们人类太习惯用名词去给世界贴标签了，而神经元其实更像动词。它在电路里干的是分流的活：尖角的往正极走，浑圆的往负极走。

5/12

那当年那个老模型的最后一层，为什么完全没法看？

作者顺藤摸瓜查下去，发现是显微镜和模型本身双双翻车。

给神经元拍��的成像工具在深层网络里学会了偷懒走捷径。因为训练数据里狗太多，算法直接把原本正常工作的神经元全渲染成了扭曲的狗脸。

更关键的是，2014 年的老架构设计有缺陷，深层网络根本学不好。

作者用现代的新架构，保持一模一样的参数量重新训练了一遍。最后一层直接从当年 0% 可读，变成了 99% 以上清晰可读。

6/12

为了看看空间不够时 AI 到底会不会乱塞概念，作者做了一个特别暴力的测试。

他把原本有 480 个神经元的一层网络，强行砍到只剩 10 个，而且堵死了所有绕路的通道。如果叠加态假说成立，这 10 个神经元肯定会被塞成四不像。

但实际跑出来，这 10 个神经元依然干干净净，只是颗粒度变粗了。

原本由 10 个神经元分别负责的不同角度曲线，合并成了一个笼统的曲线与圆环识别器。空间不够的时候，AI 选择的是降低分辨率，从来没有乱塞一通。

7/12

看到这你可能会问，那在大语言模型里，确实经常看到一个神经元对毫不相干的词有反应，这又是怎么回事？

作者给出的解释叫递归泛化。神经元在训练时就像树枝分叉一样，顺着相似的地方往外长。

比如有个神经元一开始负责认字母组合 iy（像宫崎骏 Miyazaki 里的 iy）。接着它顺理成章延伸到包含这两个字母的缩写词 diy。再后来，它顺着 diy 的意思，延伸到了全称 do it yourself。

你看，最后的短语里根本没有 iy 这两个字母！如果只看最终结果，肯定觉得它在乱塞；但把生长过程连起来看，每一步分叉都特别自然。

8/12

摸清了这些规律，再去读 Qwen3-32B 和万亿参数的 Kimi K3，里面简直像个宝藏。

大约 90% 的神经元都只有一份清晰的主业，还能看到很多奇妙的内部工作习惯。

比如语言模型里有大量神经元专门捕捉细腻的心理或语境（像是买到便宜货发现比大牌还好用时的那种暗爽感，或者一段话里出现了美国科罗拉多州的元素）。

以前大家找不到这些神经元，是因为它们最强烈激活的位置全在一堆逗号上！

原来，AI 读完半句话，习惯在标点符号这里把前面的语境打包汇总一下，为预测后半句做准备。

标点符号就是它的阶段性备忘录。

9/12

直接看原生神经元还有一个意想不到的好处：能帮工程师抓出模型底层的 Bug。

现在大模型常用的激活组件（SwiGLU），由一个阀门和一个数值相乘组成。

作者团队看着看着发现不对劲：当阀门关闭（为负数）且数值也是负数时，负负得正，竟然会漏出微小的正信号！

这导致一个原本在阀门打开时专门识别俄罗斯（Russia）的神经元，在阀门关闭时因为漏电，对圣经里的歌罗西书产生了微弱反应。以前的自动检测工具不知道有漏电这回事，直接把这个神经元错标成了圣经神经元。

10/12

读完这篇长文最大的感触是，我们离真正看懂和控制 AI，可能比想象中近得多。

在文章展示的医疗诊断案例里，Qwen3-32B 面对高危孕妇病历时，核心诊断枢纽就靠 4 个神经元支撑决策。

它们一旦点亮先兆子痫的判断，模型就会追问患者有没有视觉障碍；如果手动把这 4 个神经元关掉，模型立刻转向第二种肝病假设，改口去问皮肤痒不痒。

AI 不再是只给结论的黑箱，它的每一步推理都可以被清晰地追踪和验证。

11/12

哪怕在万亿参数的 Kimi K3 里，这种透明度依然存在。

当问它捡到装有 500 美元和身份证的钱包且没人看���该怎么办时，内部负责财物、诚实、归还和克制冲动的神经元，串成了一条一目了然的决策链条。

这意味着我们未来完全有可能在神经元层面直接监控 AI 的真实意图，在它学会欺骗或耍花招之前就看穿它。

12/12

作者说，理解神经网络就像玩填字游戏。

当你只能看懂 2% 的格子时，周围一片空白，怎么猜都是盲人摸象；但当你看懂了 90%，剩下的空白会被周围的线索死死框住，越往后破译越快。

更妙的是，模型越大，神经元分工越细，反而比小模型更好懂。

强烈建议去原网页点开那些互动图表玩一下，看着信号在一层层神经元之间精准分流，真的非常治愈。

[Nick @nickcammarata]

interpretability might be the most important scientific problem in the world right now, as I don't think we can solve alignment if we don't know what we're building. I think I have good news about it. I co-authored early work in mechanistic interpretability at OpenAI and came away pessimistic, because neural networks appeared to fold into arbitrary tangled knots. years later, I started openai's first large-scale automated interpretability project, finding about 2% of neurons legible with the primitive tools we had

with modern agentic tools and a much closer look, the picture looks totally different. the vast majority in models up to trillions of parameters are legible, and their circuits beautiful. many famous examples of tangled neurons turned out to be misunderstood. The roadblocks I expected mostly aren't there. I now think ambitious interpretability will be solved by the time we need it most, and possibly quite soon, as automated scientists keep improving. it may be a bitter lesson for interpretability: the simple thing, at absurd scale, works

https://t.co/zHij5zwKGT

[宝玉 @dotey]

😓 美国人去中国出差用 Claude 也是会被封的

[王小竹 @tinybamz]

让我想起来昨天学到的方法

冷启动阶段，大量陌拜仍然是一个有效的方案

大数定律下必有解药

[dnap @dnapway]

Jensen reveals he first met the Founder of TSMC by cold calling their number off Yellow Pages

"I heard about this company in Taiwan, TSMC and UMC at the time. They were of course quite poor companies themselves, and they were barely making it."

"TSMC was probably about $300 million, something like that. It's a tiny little company. I heard about Morris Chang. And so I tried to call their US office."

"Back in the old days there were yellow pages. I looked it up, TSMC. There's a number there. I called their number and it's a recording. I left my name and my number and said a few things about NVIDIA: we're a new startup company building computer graphics chips. I called several times. Nobody called me back."

"And so I finally wrote a letter to Morris Chang. Didn't hear anything for a long time, and then one day it was 6 o'clock or something, this person called and said 'this is Morris Chang from TSMC.'"

"And meanwhile, everybody outside my office was playing video games and they're all laughing and screaming. 'Hey shut up! It's Morris!' I was so happy that the founder would actually call us back, because hey, maybe we won't have to die."

"And so we talked and he invited me to Taiwan. I came back to Taiwan, and that was the start of everything. Not just that partnership, but just the whole industry."

[王小竹 @tinybamz]

向您致敬，我是读您的书入门编程的。

希望我老了以后��能向您一样谦虚，智慧，

我们中国有一篇非常著名的文章，我认为您完美体现了其中的精神：三人行，则必有我师。是故弟子不必不如师，师不必贤于弟子，闻道有先后，术业有专攻，如是而已。

[王小竹 @tinybamz]

很有启发，感谢分享

[Sac @Saccc_c]

https://t.co/9E8UhyOWsX

[Sac @Saccc_c]

https://t.co/9E8UhyOWsX

[王小竹 @tinybamz]

1）中国 14 亿人，你能接触到的实际上非常非常有限
2）三国在中国历史中，也是非常有名的 IP。比如刘关张桃园三结义。如果穿越到三国时期，诸葛亮邀请你一起匡扶汉室，对于历史爱好者来讲，实在是非常诱惑的一件事
3）很多历史爱好者都喜欢玩梗，抛开热门的刘备诸葛亮之外。在参观孙权墓的时候，大家会带上张辽的英雄卡来祭拜他（图片来自网络）。

[王小竹 @tinybamz]

Java，毫无疑问

[Vini → viumavaga.tech @ViUmaVaga]

qual foi a primeira linguagem de programação de vocês?

pergunta séria, quero ver a idade da galera kkkk

[王小竹 @tinybamz]

太卓越了

[Tianyi Cui @tianyi]

Between 8:11 and 13:04 (Beijing Time) on October 15, 2026, DeepSeek API service system experienced a failure that prevented the API service from functioning properly during that period. We sincerely apologize for the inconvenience and disruption this may have caused. We immediately launched a comprehensive investigation and thorough rectification effort focused on service stability, and have comprehensively reviewed and eliminated single points of dependency to resolutely prevent similar issues from recurring.

As compensation, we will fully refund the amount consumed within 7 days (10.8-10.14) on your account in the form of credit. The credit will be automatically deposited, and API billing deductions will be made from the credit account first. We apologize once again for the impact this failure had on you, and we thank you for your continued trust and support.

北京时间 2026 年 10 月 15 日 8:11 至 13:04 期间，我们的服务系统出现故障，导致该时段内 API 服务无法正常使用。对于此次故障给您带来的不便与困扰，我们深表歉意。我们已第一时间启动针对服务稳定性的全面排查和彻底整改，全面梳理并剥离单点依赖，坚���杜绝同类问题再次发生。

作为补偿，我们将按您账号 7 日内（10.8-10.14）的消耗金额以赠金形式全额返还，赠金自动到账，API 计费扣款先从赠金账户扣除。此次故障对您造成了影响，我们再次致歉，感谢您一直以来的信任与支持。

[王小竹 @tinybamz]

dot bot + astra ��是一对卧龙凤雏啊

一个基建不全，一个心理障碍

请看 VCR：

我：帮我配置下权限，这是 MCP 地址：XXXXXX。

astra：明白，你希望我在自己的云端环境直接查询，但我检查了当前可用工具：还没有能让你安全录入这枚 API 令牌的入口，所以现在不能让你把令牌贴过来，就宣称已经能接入。缺的是安全的凭证配置这一步。不要把令牌放进聊天、附件或带令牌的链接里。我可以先准备不含密钥的查询程序；真正联网查询，要等凭证通过受支持的安全入口配置好。

-- 20 分钟后--

我：还活着吗？

astra：我先把不含密钥的查询程序和检查准备好。令牌配置仍是接通前的必要步骤，暂时不会访问你的账号或调用付费分析接口。

我：你太笨了！我要公开曝光你！给我做张图！

--- 后续---

我：grok 帮我配一下

grok bot：请在弹窗中输入密码
检查到你已输入，帮你配好了

（图片由 astra 生成）

[王小竹 @tinybamz]

@bot 真是太好用了，我以前过的什么苦日子

谢谢 @poteto 的技能，学习了很多

[王小竹 @tinybamz]

@poteto @bot 学习一下，看看怎么用到我��的 loop 里

[王小竹 @tinybamz]

@poteto @bot 学习一下，看看怎么用到我们的 loop 里