王纯纯

06年CS大学生，网易有道Agent开发实习生，Codex、Hermes深度使用者，关注标普 | 纳指 | 坚持复利 | Agent开源项目|分享关于AI所探索到的一切

[王纯纯 @chun_wang35417]

@WenBuilds 修坏其他的功能是最致命的

[王纯纯 @chun_wang35417]

Annie Wang 在 O'Reilly Radar 写了篇《What Makes an Agent Self-Evolving?》，讲的是模型一个都不换，agent 也能变得更会干活。

变化的落点在 harness。她给的定义是包在模型外面的那些东西：指令、上下文、工具，以及跑 agent 的软件。

自进化就是按经验把这些改掉，再带到下一次任务里。她引的 Harness-RSI 研究的就是这件事，模型不动，只改 harness。

她自己先泼了冷水。改动可能让事情变糟。存下的记忆可能是错的，一条新指令修好一个问题、顺手弄坏另一个。所以她把自进化拆成三块看：

1.怎么判断一个改动算不算变好

模型在 benchmark 上的分数，说明的是它在那份测试上的表现。要评一个用这个模型搭出来的 agent，还得看它手里的信息对不对、动作选得准不准，用户提的要求满足了没有。

她为了讲评估，做了个订餐厅的练习。给 agent 一群人的需求和一批餐厅资料，让它推荐一个地方和一个时间。人和餐厅都是虚构的，成功标准也好懂：每个人都能吃，都付得起，也都赶得上。

有一次 agent 推荐的餐厅其实满足了所有人的需求，她的评分脚本还是判了错，因为脚本把回答的措辞跟她自己写的一份样例答案做了比对。可那份样例只是其中一种解法，换个推荐一样成立。一个会自我改进的 agent 拿到这种反馈，会去修一个本来就对的决策，导致得不偿失。

而更有用的评估直接查要求本身。有人预算 25 刀，这顿饭 28 刀，这一条就不过。预算和忌口都能写成检查项，时间也能量出来。剩下需要判断的部分，比如它有没有把价格和便利之间的取舍讲清楚，可以交给人或者另一个模型。

如果任务还包括订位，那就得确认订位真的存在。回一句「已为您预订」远远不够。评一个系统，得看它实际做了什么，光凭它说自己做了不算。

改动提出来之后，拿新版本跟现版本对打。本来就做得好的任务不能退化，还要用没参与开发、没参与选方案的新案例来测。一个晚餐计划做对说明不了什么。换一群预算和忌口都不一样的人，它还能做对，才算数。

评估也得说清为什么没过。「这顿饭超过了客人的预算」能让 agent 知道从哪儿查起，具体原因它自己找。

2.谁来做改进这件事

失败要工程师发现、方案要工程师提、测试要工程师起，改进就还挂在那个人身上。自主改进是把这些交给系统：回看做过的任务，找反复出现的错，提一个改动，再测这个改动有没有用。

她举的例子是那个晚餐规划器。它发现自己反复推荐超预算的餐厅，而预算是给过它的。它试着写一条新指令，比较之前先把超过任何人预算的餐厅剔掉，然后拿去别的群组上测。结果变好、原来的活也没退化就留下，不然退回原样。

这里有两条循环。规划晚餐时 agent 在用工具，读结果，再决定下一步，这是任务循环。改进过程回看的是一堆这样的尝试，改的是以后怎么干。agent 可以自己把晚餐安排好，同时还得靠工程师教它怎么安排得更好。

复盘不用每个请求都做。可以是同类失败攒了几次之后，也可以隔夜把一天的工作过一遍。把这些事凑在一起看，反复出现的毛病才浮得出来。

放权可以一点点来。最早它只负责查问题、试改动，改完等工程师批准。再往后，某些类型的改动不用再等批准，它自己就能留下。能改什么，能花多少时间和钱去试，什么时候人要插手，这些还是团队定。

3.harness 的哪些部分允许被改

ModularRSI 把 harness 分成五块：上下文管理、agent 循环、工具使用、观察管理、任务完成判断。研究方法是拆开逐个改、逐个看，再合起来看整体。

她还提醒了一点，先找原因再改指令。客人的预算压根没送到模型手里，写一句「注意预算」没有用，要修的是这条信息怎么进模型。

五块里她最看重上下文管理，它决定模型做判断时手里有什么信息，包括这次带进哪些记忆。反思记忆的做法是回看发生过什么，存一条下次用得上的教训。换成那个晚餐规划器，教训大概是先查一遍所有人的预算和忌口，再开始比餐厅。

记忆得分清通用教训和一次性事实。「推荐餐厅前先查预算」对任何一群人都成立，「这位客人预算 25 刀」只对某个人某一次成立。少了这层区分，agent 会拿旧事实去套新场景。

dreaming 是另一个动作，在会话之间整理记忆。系统回看过去的交互和已经存下的东西，把相关的观察合并，留下有用的教训。记忆之间打架的时候，回到原始证据核一遍再决定留哪个。Anthropic 的 Dreams 会产出一份重新组织过的记忆，后面的会话用之前可以先让人过一遍。

她对 dreaming 的期待很朴素：下一个任务有个更好的起点，不用把以前的对话全读一遍。这个也要测，拿新旧两版记忆分别跑新任务比结果。隔夜整理只是动作，算不算改进得看结果撑不撑得住。

再往上一层，agent 还能改自己找记忆、整理记忆的方式。存一条教训只帮到一次任务，把挑选教训的规则改好能帮到后面很多次。

另外四块各有各的改法。agent 循环里能学的是认出自己在重复一条走不通的路，然后换条路走。工具使用上，缺的工具可以加，接口也可以改得更不容易用错。观察管理管的是它怎么总结工具返回的结果，改这里是为了别把关键事实弄丢。任务完成判断最容易被忽略，agent 说「做完了」之前，得先拿到动作确实成功的证据。

这几块是连着的。换一个工具会改变 agent 收到的信息，收到的信息又会改变它下一步的决定。单块测能看清一处改动，整机测才知道各块合起来还顺不顺。

agent 用改过的 harness 去做下一轮改进，改进就变成递归的。假设它改了自己在历史记录里搜失败案例的方式，下一次要改进自己，就用这个新搜法决定查什么、测什么。这一轮留下的改动，会塑造下一轮怎么干。

它因此有机会把「找改进、验改进」这件事本身练好，不只是把原来的活干好。每一轮都建在前面留下的改动上。递归有没有用，要看后面几轮提的改动放到新任务上是不是更好。

她最后要的东西说起来简单：一个不用被反复纠正的 agent，因为它学会了更好的做法。而且能指出它学到了什么，什么变了，凭什么说这个变有用，再换个新任务看这条教训还站不站得住。

[王纯纯 @chun_wang35417]

@liaocaoxuezhe 你这个和Ego lite比起来怎么样？

[王纯纯 @chun_wang35417]

@Ice_Hazymoon 强强强，一共花了多少token

[王纯纯 @chun_wang35417]

我觉得真正的Deep Research 大规模网页搜索这种任务，通用 agent 压根干不了，问题不在你的 prompt 写得好不好。

差别就一条：停止条件在谁手里。让 codex 去查一个行业，它搜到一半觉得差不多了就直接交卷，你既不知道它搜了几轮，也不知道哪个关键词压根没碰过，到时候交付的研究报告写了一堆废话，引用链接只有寥寥的几条

而Deep Research 是节点式的，整个搜索流程是高度固定好的，每一轮需要搜索到什么程度，事实需要核验到什么程度，都是预先定义好的：最少搜几轮、必搜哪几个词、怎么判断搜索死角，全都写在代码里。

这就好比让实习生自己决定报告写几页，他两页就交稿；如果你规定必须访谈 10 个人、覆盖 3 个渠道，他才会老老实实跑完。

所以针对这个问题，我觉得最好的架构就是封装一个Deep Research工具，让CodeX它输入几个主题，就可以让这个工具全自动的去进行大规模的网页检索，
而codex只负责拿到最终带引用的报告

这样既不会让很多无意义的网页信息进入到CodeX的上下文，造成注意力稀疏，也不会造成搜索不稳定的这个问题。

[王纯纯 @chun_wang35417]

@userdsss 我还以为你说的中国

[王纯纯 @chun_wang35417]

@LiHaoCapital @grok YES

[王纯纯 @chun_wang35417]

@Ntbperst 不是兄弟 已经 10 刷了

[王纯纯 @chun_wang35417]

@GGGGborui @jamsou2022 都是用自己的手机号注册的

[王纯纯 @chun_wang35417]

反代workbuddy一天用10亿token，感觉我现有的6个账号在高强度的使用下根本不够用啊 你们都是开多少个账号反代使用的？

[王纯纯 @chun_wang35417]

这效果也太逼真了吧

[Sakura Rabbit 樱花兔 @Sakura_Rabbiter]

😊Experimenting with adding tearing to my interactive stockings demo. Here’s the earlier stretching demo 👇

Fanbox：https://t.co/F0jm5ypEUy
Patreon：https://t.co/PpbKmwwByB

Want the full project? Subscribe to my Fanbox or Patreon to download it!
#Unity #VFX #shader #realtime

[王纯纯 @chun_wang35417]

黄仁勋一吊捅穿英伟达！

英伟达正面临前所未有的高层危机！

受 CEO 黄仁勋多起出轨丑闻（牵涉疑似情报人员与内部下属）及涉嫌违规转售 75 亿美元硬件的消息影响，英伟达盘后股价重挫约 8%，董事会正考虑罢免其职务，专家预估留任率仅五五开。

知名分析师郭明錤指出：黄仁勋在技术落地与整合供应链上的核心作用极难替代，但他此次恐难“全身而退”。鉴于公司长期缺乏接班人，英伟达必须立刻降低对其个人的决策依赖，紧急启动继任计划。

这场风波不仅削弱了英伟达对 AI 芯片出口管制的游说能力，失去绝对主心骨后，其后续的研发效率及竞争对手的趁势反击，更将深刻改变全球 AI 产业格局与投资走向

#英伟达 #Nvidia #黄仁勋 #AI产业 #科技动态 #郭明錤

[王纯纯 @chun_wang35417]

@grok 今天推特哪些内容最热门？

[王纯纯 @chun_wang35417]

@mzixioxio155612 我就几十

[王纯纯 @chun_wang35417]

国内这些平台我真是c死你们的老冯

简直就是文字狱

[王纯纯 @chun_wang35417]

@Saccc_c vibe 出来一般发布到哪呀

[王纯纯 @chun_wang35417]

@youtiao99 怎么进群哇，我也是大学生个人接单 都是接一些软件开发和爬虫的活，还没尝试过 cad

[王纯纯 @chun_wang35417]

@Naiwa_on_bnb 太神圣了

[王纯纯 @chun_wang35417]

叶问奶龙

[王纯纯 @chun_wang35417]

@lidangzzz 党哥真是互联网活佛