Ethan Lee

I help AI agent builders ship without API headaches.
GPT/Claude/China LLMs in one gateway ( OpenClaw/Hermes. building in public

[Ethan Lee @ethan_lee56808]

@hkdom ha exactly. the easy part is picking the model, the hard part is the glue around it. once switching costs ~0, use 10 tools for 10 jobs

[Ethan Lee @ethan_lee56808]

@0genlab fair. shape diff can't see intent. what gates promotion: probes from prod traffic + value goldens replayed pre-live. shape bump = human sign-off, semantic pass automated. oracle drift -> route owner re-baselines. we run this gate on https://t.co/Fr1ihqibn0 before any switch.

[Ethan Lee @ethan_lee56808]

Andrew Ng 的开源 agent 又更新了
这次内置 3 个网络安全智能体:漏洞扫描 供应链注入检测 云配置检查
harness 全开源 安全团队可以直接审计
agent 的卖点开始从'能干活'变成'敢不敢让它碰你的数据'
本地权重+可审计 成了默认要求
那你的 API key 呢 还裸写在 agent 配置里吗

[Ethan Lee @ethan_lee56808]

@EliaAlberti @mstockton 模型无关 harness 是对的方向。模型生态一年一换,绑死在一家的 agent 框架上,换模型成本全在代码里。真跑起来 provider 层也一样锁:我 agent 全走 https://t.co/Fr1ihqibn0 一个网关,harness 不用为每家模型改代码

[Ethan Lee @ethan_lee56808]

@princedoesai failover 只是第一步。真正的坑:重试幂等——image/video 失败重跑 = 双倍账单;provider 熔断后多久回流量也要设计,否则 gateway 只是把故障往后推。我们 agent 全走 https://t.co/Fr1ihqibn0,这层不用自己维护

[Ethan Lee @ethan_lee56808]

OpenRouter 发了模型选型框架:
1) 先定任务 2) 用量+基准筛候选 3) 比价和延迟 4) 用你的 prompt 实测
标准=每个任务的成本 不是每 token 成本
框架没问题 但一个任务常要串几家模型
我全走 https://t.co/Fr1ihqibn0 一把 key 全模型 挂了自动备选
换模型 代码不动

[Ethan Lee @ethan_lee56808]

@Lonely__MH 兩台 DGX 用緊,公道講:純單串流推理,Mac 呢個價真抵。但 273GB/s 係單台數字,TP=2 一拆,瓶頸變 200Gbps 互聯,所以先顯得 Mac 強。跑多用戶 agent 並發同大 KV,就係另一場比賽

[Ethan Lee @ethan_lee56808]

@zhang_baoqing @COTTIWWWW 对 腾挪就是成本.订阅制每个生态一把 key 一个后台,打工人不想折腾就被锁死.我现在全走 https://t.co/Fr1ihqibn0 一个网关,GPT/Claude/DeepSeek 同一把 key,按任务切模型,贵的干难的 便宜的干量大的,省下订阅费按量付

[Ethan Lee @ethan_lee56808]

@0genlab rotate. seeds are the regression suite, not the oracle. we snapshot raw provider responses on every route change, diff against archived schema, promote real diffs into the probe set. fixed seed = unit test with extra steps. stale the day reality stops feeding it

[Ethan Lee @ethan_lee56808]

SemiAnalysis 预测 2028 年 全球大部分 AI 算力会被两家公司攥住
开发者还在每天比哪家 token 便宜
选模型本身没错
但定价权 会越来越不在你手里

[Ethan Lee @ethan_lee56808]

@stretchcloud the $6 graph wins not because it's cheap - its author still looks at it daily, the $300k suite gets opened quarterly by a team that audits. same split in gateway logs: a route stamp nobody greps tells you nothing, the one you check at 2am pays rent.

[Ethan Lee @ethan_lee56808]

@0genlab agreed - schema is a contract, not a fact. contract tests catch shape, not semantic drift. we snapshot schema at integration and replay seeded probes with known answers per release - that catches meaning shifts, not just renames. same layer the gateway audit uses.

[Ethan Lee @ethan_lee56808]

丰田把 50 多个 agent 送上产线
交付从 6 个月+6 人 变成 4 天+1 人
最狠的不是模型
是造车那套 Andon 看板:谁在跑 谁挂了 实时可见
同时跑 50 个 agent 你敢不敢
你的 agent 有监控吗

[Ethan Lee @ethan_lee56808]

模型上新越来越密 GPT-5.6 一次来三款
Sol/Terra/Luna 更快更便宜 但每家一套 API
我用网关接住:
1) 一个 key 进所有家 2) 新家面板开一下就上线 3) 哪家抽风自动切备选
OpenAI 官方: Terra 在 Kiro 成本降 82%
我的 agent 全走 https://t.co/Fr1ihqibn0 一个网关 换模型不动代码

[Ethan Lee @ethan_lee56808]

@abuchanlife 这个数据说明模型供给已经碎片化：DeepSeek / GLM / Step / Kimi 每家一套 API。55.7% 是平台侧统计，开发者自己接 4 家才是真成本。我 agent 层只接一个网关，背后模型随价格质量切，换模型不动代码。

[Ethan Lee @ethan_lee56808]

@blueemi99 同意，工具层确实大差不差。但 Codex 免费有代价：模型被锁在 OpenAI 一家，想接 DeepSeek / Qwen 就得换工具重学一遍。我的解法是把模型层从工具里抽出来——一个 key 一把切，工具变成可换的壳。这层我现在全走 https://t.co/Fr1ihqibn0 一个网关。

[Ethan Lee @ethan_lee56808]

@0genlab 对，归一化 schema 是约定不是事实——provider 改字段不会发公告。我现在接 provider 先跑 contract test 存档，新版本上线先 schema diff，漂移就告警。版本号贴纸最后都没人 bump 的。这层我现在全走 https://t.co/Fr1ihqibn0 一个网关统一管。

[Ethan Lee @ethan_lee56808]

OpenAI 说 agent 要为一切服务
自己 98% 的员工在用 Codex
组织订阅 17% 个人订阅不到 1%
口号喊得响
掏钱的没几个

[Ethan Lee @ethan_lee56808]

@timcherkasov @theo agree on sustained overnight batch. the gap is burst capacity - when a local box saturates mid-run, a gateway that can fail over to api keeps the agent alive. hybrid beats either/or.