YongMing Zhang

[Zartbot @zartbotF]

A deepdive analysis on DeepSeek-V4.1-Flash, https://t.co/PwHSfSxo6W

[月球大叔 @uncle_moon_x]

把RL的分布式系统挑战，写得挺好的，图也清楚

一直想写，但太烧脑了，学习和吐出有价值/好懂的blog，真是一件痛苦的过程

反正我是不信有价值的知识能轻轻松松，看看视频，21天速成学会

[Michael Guo @Michaelzsguo]

有志���去大模型实验室工作？现在开始学模型训练还不晚。

最近，北京中关村学院的一个团队只用了3个月，就从零训练出了一个7B大模型ZGCM-1。

但更重要的不是模型本身，而是他们把整个训练过程几乎全部公开了：

训练代码、数据处理流程、训练数据与配方、模型权重、中间checkpoint，甚至训练日志都可以查看。

这相当于把过去只有进入头部大模型实验室，才能接触到的一整套训练过程，变成了一份公开的实战教材。

你可以看到数据如何筛选和配比，训练出了问题如何定位，模型能力如何随着checkpoint变化，以及论文里一句“我们进行了数据清洗”，背后究竟包含多少具体工作。

比如，他们曾遇到一个很典型的问题：loss还在下降，模型能力却突然退步。最后一路排查到数据分片和shuffle环节，发现模型实际吃到的数据比例已经偏离了原定配方。

他们还公开了不少只有亲自训练模型才会得到的经验：

更严格地筛选SFT数据，样本减少44.9%，整体效果反而提升；长思维链数据比例过高，会损害指令遵循；Agent数据也不能脱离��用能力单独训练。

更有意思的是，7个人之所以能完成这项通常需要大团队协作的工程，是因为他们组建了几百个Agent，分别处理数据、运行实验、监控日志、定位故障和执行评测。

所以，这不仅是一份从零训练大模型的公开教程，也是一份如何用Agent扩大AI研发能力的真实案例。

过去想学大模型训练，最大的门槛不是论文看不懂，而是看不到真正的训练过程，也没有机会亲手踩完整套工程的坑。

现在，有人把代码、数据、模型和建造记录全部放在了桌面上。

如果你真的想进入大模型实验室，这可能就是一份最好的入门实战项目：先复现，再理解，然后尝试改进它。

机会已经公开了，剩下的门槛只是你愿不愿意真正动手。

GitHub在👇

[周冷清 @lone3m]

找了一下 链接在这：
https://t.co/uvY5LNMjgx

[AYi @AYi_AInotes]

Anthropic 的 这个13 页 Agent 记忆白皮书有点牛逼啊，是今年我看过对「智能体记忆工程」拆解得最通透、最值钱的一份生产级手册：

很多做 Agent 的人死都想不明白：为什么自己的机器人越跑越蠢、矛盾百出？
因为你的 Agent 从来不会遗忘，
读懂这套把大模型调用成本砍掉 90% 的 5 层记忆金字塔，你才会看清工业级 Agent 的生死线在哪里：

它开篇第一句就直击所有开发者的灵魂痛点：
大模型这两年聪明了 10 倍，但缺乏记忆的 Agent，每天都在你的代码库里重演《土拨鼠之日》——
每天早上重新读一遍同样的 12 个文件、重新踩一遍昨天的坑、再向你收取一模一样的 Token 账单！

手册把能学习、能自愈的 Agent，严格拆成了 5 个物理层级：

• Layer 1【工作记忆（Working Memory）· 上下文窗口】：
模型当前这一瞬间看到的全部信息。90% 的玩具 Agent 止步于此，一旦填满就从头硬性截断，把最初的任务目标和关键决策直接切碎丢掉，然后纳闷为什么系统又崩溃了；
• Layer 2【情景记忆（Episodic Memory）· 发生了什么】：
带时间戳的完整交互流水日志。当工作记忆溢出时，关键事件下沉到这里。它会清楚记得“周二凌晨 3 点脚本报错是因为第 42 行有个拼写错误”，防止在同一个坑里跌倒两次；
• Layer 3【语义记忆（Semantic Memory）· 什么是客观事实】：
从日志中提纯出来的知识图谱与实体关系。比如“该用户偏好 TypeScript”、“生产数据库禁止直接写入”。即使会话关闭，这些跨会话事实也永远不会过期；
• Layer 4【程序记忆（Procedural Memory）· 怎么把事情做成】：
这是 Agent 产生“技能复利”的核心！它尝试了 3 种报错解法，最后发现第 3 种行得通——系统自动将这次成功路径固化为一个可重用的 Skill 脚本。下次遇到类似任务，跳过所有试错，直接调用最优解；
• Layer 5【最反直觉的一层：遗忘引擎（Forgetting Engine）· 什么时候该删】：
从不遗忘的 Agent，最终一定会精神分裂！
旧偏好会和新指令激烈冲突（用户早就搬家了，它还在执着地推荐前东家楼下的外卖）。没有定期的垃圾修剪与矛盾消解，上下文只会演变成不可维护的毒瘤。

这笔账在工程上极其惊人：
实测引入这套架构后，Mem0 的单次查询 Token 消耗从 26,000 个断崖式暴降至 1,800 个（账单直接砍掉 90%），延迟压低 91%；
Snowflake 加上语义实体层后，不仅准确率飙升 20%，工具调用轮次更是暴减 39%。

别再去无脑迷信更大的上下文窗口了。
没有分层沉淀和遗忘机制，给你 1000 万 Token 也只是买了一个更昂贵的失忆黑盒；
把记忆做成可检索、可进化、可修剪的工程资产，你的 Agent 才算真正拥有了灵魂。

[青稞社区 @qingke_ai]

你可能也有这个困惑：每天都在刷到新的 self-evolving / RSI 论文，但看不出它们到底差在哪——更麻烦的是，自己的 Agent 想"自进化"，该改哪一层？

这篇长文给了一套坐标系（整理自 Awesome RSI 仓库）：

RSI 的定义很简单：Agent 用任务轨迹 + 反馈更新自身状态，并让更新后的状态参与后续任务。

而 Agent = Model + Harness，所以"进化什么"就是五层： ① 参数——把经验写进权重 ② 上下文——重组这次推理看到的材料 ③ 记忆——外部长期存储、按需检索 ④ Skill——"下次遇到同类问题该怎么做" ⑤ Harness 代码——改工具、改控制流程

再叠加三个维度定位： • 进化结构：链 / 树 / 图（决定探索范围与容错能力） • 谁来更新：自身 / 教师 / 联合 • 更新时机：离线 / 在线 / 混合

有这个坐标系之后，新论文一眼归位：它改的是哪一层、靠谁改、什么时候改、版本怎么继承。

全文梳理了 20+ 代表工作（SEAL、Darwin Gödel Machine、MGM、ReasoningBank、TRACE、SkillSmith 等）和实测数字

你更看好 Agent 在哪一层"进化"？参数 / 记忆 / Skill / Harness 👇

#RSI #SelfEvolving #Agent #LLM

https://t.co/zR4osSjhAm

[WquGuru @wquguru]

跑长上下文 agent 时，显存里最占地方的不是模型权重，而是 KV Cache。DeepSeek 用3年时间把它从每 token 389,000 B 压到 890 B，减少到 1/437。通过几张图了解清楚它是怎么做到的，以及如何大大降低Agent使用者的成本。 https://t.co/EotvDc7ZvJ

[AYi @AYi_AInotes]

前 Scale AI 创始人、刚出任 @Meta 首席 AI 官的 @alexandr_wang ，在 YC 现场跟 @garrytan 对谈时抛出这枚深水炸弹，直接把全网的技术管理层给听沉默了。

他说在 Meta 内部，我们已经真实看到了这种情况：
只要设计出正确的智能体循环（Agentic Loop），并给出一套能让它自主优化的评估系统与量化指标，
一群 AI 智能体完成的任务量，甚至��过了一支 100 名资深工程师组成的团队。
而且它们做到这一点，非常轻松，极其容易（Very easily）。”

但这场对谈最值钱、也最反直觉的地方，还不是100 个人被比下去的震撼，
而是他亲手扒开了 Meta 内部这套系统的底层骨架——
外行以为支撑这种超级蜂群的一定是极其复杂、深不可测的外星架构；

结果 Alexandr Wang 极其直白地用了几个最土的词把它打回了原型：
“Markdown files, cron jobs, goal, metrics, data.”
（Markdown 文件、定时任务、目标、指标、数据。）

撕开这层极简的包装，你会看懂这套打法对传统软件工程的降维打击：

1️⃣ 不是模型更聪明，是「闭环评估系统（Evals）」在发威：
传统的做法是人肉写提示词，祈祷模型别犯错；
Meta 的做法是把业务目标变成机器能自动验证的打分器。
模型只要敢交卷，系统自动跑测试、算指标、找坏味道；通不过就打回重做，直到绿���亮起。
人不需要盯梢，指标本身就是最好的监工；
2️⃣ 真正的 Alpha 叫“在反馈循环里多烧 1000 倍的 Token”：
很多人用 AI 还在抠搜单次调用的价格；
顶级大厂的秘密是：宁可在后台多消耗 1000 倍甚至 100 万倍的 Token，去让 Agent 不断自查、对跑、互相对抗验证，直到把确定性的业务结果跑出来。
Token 的成本是死的，但换来的是一套永不熄火的流水线；
3️⃣ 记忆根本不需要花哨的数据库：
持久化记忆直接用 Markdown 文件存着，
调度直接用服务器自带的 Cron 定时器在夜间触发。
把脚手架做得越轻、越朴素，系统反而越皮实、越不容易出现上下文崩塌。

这是一场极度冷血的组织重塑：
过去一个技术负责人的天花板，取决于他能带多少人开会、协调多少跨部门利益；
而未来的技术领袖，唯一的生产力杠杆在于：
你能不能用最严密的数学指标，把复杂的业务目标，重述成一个连 AI 都能看得懂的自动化考卷。

当 100 个人的搬砖产能被一套定时器和 Markdown 文件轻松取代，
只会接单写代码的时代正式落幕了。
掌控评估体系、懂得调动蜂群的人，手里握着的已经不再是一个工具，而是一家随时可以原地起跳的虚拟跨国公司。

[Dongxi 东锡 NLP @dongxi_nlp]

https://t.co/1Zp3Skkv39

[Dongxi 东锡 NLP @dongxi_nlp]

读完 deepseek 的 KV Cache Compression，我突然觉得，人生同样需要好的 KV Cache

K 是唤起记忆的线索，V 是记忆留下的内容。新的情景发生时，Q 带着此刻的问题，从过去寻找答案。

经历越多，思虑越重；精力有限，再重要的往事也可能被冲淡，旧船票难以登上新船，错误的记忆也会影响后来的判断。

所谓成长，大概就是给生命做 KV cache

[Bilgin Ibryam @bibryam]

🌟 Emerging interfaces at the boundaries of AI agents🌟

↳ Models: Open Responses
↳ Tools: MCP
↳ Agents: A2A
↳ UI: AG-UI/A2UI
↳ Capabilities: Skills
↳ Telemetry: OTel GenAI
↳ IDEs: ACP
↳ Identity: AAuth

I'm mapping where they fit and how mature they are in my next post.
https://t.co/p4u4g5fg0J

[山景城小路 @Zen_with_AI]

Google ML Crash Course 这 3 门课（支持中文），可以按这个顺序学：

1️⃣ Linear Regression｜80 min

从最基���的线性回归开始，理解 feature、label、weight、bias、loss function、gradient descent。

很多后面的 ML 概念，其实都能追溯到这里。
Linear Regression
2️⃣ Neural Networks｜75 min

从线性模型进入神经网络。

重点理解 nodes、hidden layers、activation functions、forward pass、backpropagation，以及神经网络为什么能够学习 nonlinear patterns。

学完这门，对 Deep Learning 的基本工作方式会清晰很多。
Neural Networks

3️⃣ Production ML Systems｜约 70–80 min
这一门非常适合 Software / Infrastructure Engineer。

真正的 ML 系统里，model 往往只是很小的一部分。还要处理 data collection、feature extraction、testing、serving、resource management、monitoring 等大量工程问题。

[Werner Vogels @Werner]

Mandatory reading!

[InfoQ @InfoQ]

Kubernetes is promoting #KYAML - a stricter dialect of YAML designed to make Kubernetes configuration more explicit, predictable, and less prone to common YAML errors.

🔗 More details here: https://t.co/gEEQjBgBr1

#Kubernetes #YAML #DevOps #CloudNative #InfoQ

[Bojie Li @bojie_li]

身边好几个小伙伴发现 Codex Pro + GPT-6 Astra 和 Claude Max + Opus 5 Ultracode 一天就能用掉一周的额度，订了好几个 200 刀套餐，但又担心用不完浪费。其实中转站是一个很好的选择，以我用的 https://t.co/1eA38NxnAu 为例，GPT-6 Astra 只要 ��18 / M output tokens，官网是 $50，便宜 20 倍，最近也挺稳定的。Gemini 比官方定价便宜 15 倍，3.7/3.8 Flash ¥1.50 / M output tokens，就跟不要钱一样，要知道 DeepSeek V4 Flash 涨价之后都要 ¥4.5 - ¥9 了。

我自己的生产 agent 都已经 by default 接中转站了，Krill 不可用的时候再 fall back 到官方 API。差 20 倍，官方 API 这定价实在是用不起啊。除非 O/A 两家有神级 infra，把订阅用满的 serving 成本肯定比 $200 高，趁 O/A 两家冲 ARR 赶紧薅羊毛（甚至 Kimi K3 Allegro 订阅的 token 单价都不如 Codex Pro / Claude Max 划算）

[Bilgin Ibryam @bibryam]

📊 Self-Service Data Analytics with Claude

Adding thousands of SQL examples barely moved Anthropic’s analytics accuracy. In about 80% of failures, a relevant query was already retrieved.

Structure, not access, was the bottleneck.

https://t.co/ZiRFxaLYJU

[黄健宏 @huangzworks]

卡内基·梅隆大学最新的AI课程视频：https://t.co/XCbbaJCVEe
课程刚开，还在持续更新中，感兴趣的朋友可以关注！

[Bilgin Ibryam @bibryam]

🛡️ The Hidden Primitive Behind Coding Agents

A verifier the agent can see shapes its behavior. It is not an independent contract.

Put acceptance checks outside the writer’s:
→ context
→ tools
→ workspace

https://t.co/DNnIYCUZ3i

[Hux @huxlab]

如果今年只看一个 AI 课，看这个。

Jeff Dean，前Google AI 的扛把子，把自己亲手做了 27 年的东西压缩到了一��时。

不是二手解读，不是"十个 prompt 模板改变你的工作流"。

是造这些系统的人，亲自告诉你它们怎么来的、为什么这么设计、接下来往哪走
以及一个人如何调度一整支 Agent 队伍。

[Graham Neubig @gneubig]

We started to post videos for CMU 11-768, AI Agents!

All of the videos will be posted to this playlist, so please bookmark/follow it if you want to be notified of new ones! I'll also try to post them on this thread too.

https://t.co/HAJgKXve0x