战痘暴龙兽(不知道什么版)

在职agent开发(号称架构师，实际prompt主要为“继续”)
重度vibe coding(非ai嘉豪)
Claude code受害者(实在折腾不动了)
参与贡献cc switch, orca, pawbench(小修小改硬混)

[战痘暴龙兽(不知道什么版) @luchong9639]

Can an agent run faster and cheaper without asking an LLM to make every decision?

I built JevLoop to explore this: Jev handles decisions, LLMs handle generation, with side-by-side runs against an LLM-only baseline.
https://t.co/n1m2o1gSGi

[战痘暴龙兽(不知道什么版) @luchong9639]

@jackyang886 agy这个壳已经配不上carbon了

[战痘暴龙兽(不知道什么版) @luchong9639]

@magpie_router 版本，0.1.3846 agy的本地会话，用量里没有统计到具体模型

[战痘暴龙兽(不知道什么版) @luchong9639]

@Rollkey8 我最近把gpt接到omp，除了tps慢这个问题无法解决之外，体感已经比直接在codex中用好了很多。加上你这个，直接说明，codex实在是烂。但是cc通过magpie接入gpt，又有codex提示词注入，无奈。

[战痘暴龙兽(不知道什么版) @luchong9639]

@kongge_space 是的，很多人其实没有意识到cc本身的强大。 但是这套方案用深了还是会发现一些问题，特别是需要接入各种oauth的时候，有些处理会损失很多能力。所以我最近继续实验omp了，很多处理上原生很多。不过很多想要的harness功能需要自己再手搓补充一下

[战痘暴龙兽(不知道什么版) @luchong9639]

@dracowyn 用omp➕codex就别走magpie了，好像会额外注入codex cli的sys prompt

[战痘暴龙兽(不知道什么版) @luchong9639]

我只能说，devin大大滴坏。
起因是omp接入devin后使用opus感觉cache hit低的有点异常，分析了一下居然跟我说某轮会话中间跨度超过了5min，我瞬间有点宕机，一步一步定位发现事情并不简单。
不管是想通过magpie还是直接在omp接入devin的opus额度的，望周知。🤡🤡🤡

[战痘暴龙兽(不知道什么版) @luchong9639]

@mkdir700 开源我必赞助

[战痘暴龙兽(不知道什么版) @luchong9639]

@HunziDaily 这还只是第一步，用下来个人的感觉强的是路由策略组，这在ccs里就是配置地狱。这点上来说，两个产品的内核已经完全不同了

[战痘暴龙兽(不知道什么版) @luchong9639]

@LinearUncle 折腾路由组的时候我就发现，magpie的最佳使用方式其实就是本地clone一份代码，让agent直接对着代码整出你想要的配置文件

[战痘暴龙兽(不知道什么版) @luchong9639]

@UFO2002616 tps从昨天开始确实看着有点提升了，60附近，甚至本地有条130的记录

[战痘暴龙兽(不知道什么版) @luchong9639]

昨天让 agent 专门腾出手，把 magpie 的配置折腾了一遍，也算把我这类用户的痛点捋清楚了。

我本地虽然装了不少 harness，但主力还是 Codex CLI 和 CC。Codex 有个额度比较充足的大号，暂时不用操心路由，所以这次的需求很明确：把手头能用的模型接进 CC，尽量少手动折腾。

之前用 CCS，最头疼的就是配置太散。每个模型的额度、上下文都不一样，要一个个配。且无法配置预设档位的映射，我又经常同时开几个 session，有的做分析，有的写代码，有的跑子 agent。一处配置没对上，就可能让本来支持长上下文的模型，二十来万 token 就开始压缩。相关 PR 也提了，但暂时还没完全满足我的用法。

再碰上长任务做到一半，某个渠道额度用完，需要换模型，这些小问题就都冒出来了。

这次用 magpie，我主要用了它的策略组嵌套。

比如同一个模型，我有好几个渠道，就先建一个这个模型的池子，在里面配置先用谁、失败后换谁。其他模型也照着建。然后再套一层，按用途把这些模型池排起来。

这样平时只需要选用途，底下加减渠道不用每个地方都改一遍。

我目前分了四类：深度分析、日常执行、快速辅助和子 agent。前几类映射到 CC 原生档位，子 agent 单独指定。分析档用来想复杂问题，执行档干日常开发，快速档处理小事，子 agent 则有自己的一套顺序。另外留了一个 Free 组，简单任务随手切过去用。
上下文也跟着用途分开配。现在分析档的自动压缩窗口是 650K，执行和子 agent 是 450K，快速档 200K，Free 272K。这些数是我目前的取舍，后面还会看实际使用再调。
子 agent 一开始只给了 200K，后来想想不太对。有些确实查完东西就结束了，但有些会一直复用，前面看过的代码、讨论过的方案，后面还得接着用，没必要因为是子 agent 就统一给小窗口。
这里还踩了个坑：你在网关里填了 500K，CC 不一定就认 500K。自定义模型名可能仍按默认 200K 处理，压缩窗口写再大也没用。得先让客户端认到长上下文，再配每个模型自有全局环境变量把它盖掉。

用真实客户端接本地模拟服务测了一下，450K 的压缩窗口，416K 时没压缩，418K 时就触发了。所以这个数也不能直接理解成“到 450K 才压”。
等待时间我也没统一。小任务卡住了可以早点换；分析档额度少，我宁愿多等一会儿，让已经发出去的请求尽量跑完。至于额度真用完了，那就换资源，继续重试也等不回来。 折腾完最大的感受是，模型多一份工作。现在把渠道归到模型池、模型池再归到用途组，上下文，都知道该去哪里动。平时用 CC，也终于不用每次先想一遍今天该挑哪个模型了。

[战痘暴龙兽(不知道什么版) @luchong9639]

@ai_funss 第五点很重要

[战痘暴龙兽(不知道什么版) @luchong9639]

@xiaoshan0413 点上关注啦，我也在做agent，互相交流～

[战痘暴龙兽(不知道什么版) @luchong9639]

@houzhongji89090 凑个热闹～ https://t.co/n1m2o1gSGi

[战痘暴龙兽(不知道什么版) @luchong9639]

@goan999999 信息差的具象。虽然但是，恭喜找到趁手工具～

[战痘暴龙兽(不知道什么版) @luchong9639]

@sunyuchentron

[战痘暴龙兽(不知道什么版) @luchong9639]

@WenBuilds @QianRay_xiao 🫡

[战痘暴龙兽(不知道什么版) @luchong9639]

@UFO2002616 只要学的够慢，就不用学了

[战痘暴龙兽(不知道什么版) @luchong9639]

给magpie提的每一个issue都在刷新fix时间的认知，有种在github上把@yetone带佬当云端agent在使用的感觉哈哈(不是。。。

[战痘暴龙兽(不知道什么版) @luchong9639]

@drawhenlife 🫡🫡