Chivos

Somewhere between code and curiosity.

[Chivos @Chivosic]

@Zachary_haha 想干嘛呢😂

[Chivos @Chivosic]

@foreverfoward07 很大胆的尝试

[Chivos @Chivosic]

@_TobiasLee 非常认同，论文天天讲求创新点，但是大部分所谓的“创新”无非是把模块换个位置刷刷指标，到了真实业务场景根本跑不通。在新范式下，能解决实际问题、经受住高并发和脏数据考验的系统工程能力，远比实验室里硬憋出来的微小 novelty 更有说服力。

[Chivos @Chivosic]

非常认同，论文天天讲求创新点，但是大部分所谓的“创新”无非是把模块换个位置刷刷指标，到了真实业务场景根本跑不通。在新范式下，能解决实际问题、经受住高并发和脏数据考验的系统工程能力，远比实验室里硬憋出来的微小 novelty 更有说服力。

[Lei Li @_TobiasLee]

paper 投稿量指数级上升意味着其价值也会加速级贬值
会从 plus 变成 must，边际效用更快递减
什么是新范式下更为宝贵的经历？
目前来看比较宝贵的是: 高影响力的工作（blog, tweet, github project） / 高质量的实习经历 / 还有不会随着 AI 变化而激增的东西（e.g.，编制和🎩）

[Chivos @Chivosic]

@NanouuSymeon Valid fear, but debugging AI code actually demands stronger fundamentals than writing from scratch. Those who skip the basics will hit a hard ceiling.

[Chivos @Chivosic]

最近重新看了一下李飞飞团队 World Labs 在 9 月初发布的 Atlas，感觉这东西真正值得关注的地方，并不是“又一个更强的视频模型”。

它想做的是更底层的一件事：

让 AI 建立一个真正的“空间世界”。

Atlas 是 World Labs 面向 Spatial Intelligence 推出的新一代 world model。它原生处理文本、图像、视频、相机位姿和 3D 深度信息，并把这些信息组织进统一的 spatial context。

区别可以很直观地理解。

普通图像模型看到一张房间照片，更多是在理解：

“这里有桌子、椅子、墙。”

而 Atlas 进一步希望理解：

“桌子在空间中的什么位置，相机现在在哪里，如果绕到桌子后面，那里应该看到什么。”

因此它可以从少量图片出发，生成新的相机视角、重建三维场景，还能做 Camera-Controlled Generation、3D Reconstruction 和 Space-Time Simulation。World Labs 甚至已经把它用到了机器人的 Real-to-Sim 场景中。

我觉得这里最值得注意的是 AI 技术路线正在发生的变化：

Token
→ Image
→ Video
→ 3D World
→ World Model
→ Spatial Intelligence
→ Embodied AI
NeRF、3D Gaussian Splatting 更多解决的是：
“怎么表示一个三维世界。”
Atlas 这种模型开始尝试解决：
“怎么让一个 Foundation Model 理解、生成和模拟任意世界。”
如果说 LLM 在学习语言世界里的规律，那么 World Model 想学习的，就是空间、几何、时间以及现实世界如何变化的规律。
这可能才是李飞飞一直强调 Spatial Intelligence 的真正含义。

Atlas：
https://t.co/7xFQG8dojr

[Chivos @Chivosic]

@HiTw93 respect

[Chivos @Chivosic]

最近把 LangChain、LangGraph 和 Coding Agent 这条线重新捋了一遍，发现它们其实可以用一套非常简单的逻辑串起来。

最开始，大模型 API 本质上只是一个“脑子”：

输入 → LLM → 输出。

但真正做 AI 应用，你还需要 Prompt、RAG、工具调用、结构化输出、记忆、模型切换……于是 LangChain 出现了。

LangChain 做的事情，可以理解成：把这些围绕 LLM 的“胶水代码”封装成标准积木。

Model、Prompt、Retriever、Parser、Tool……

然后把它们串起来：

用户问题 → 检索 → Prompt → LLM → 输出。

这也是 Chain 这个名字的来源。

但问题很快就出现了。

真实的 Agent 很少是一条线走到底的。

比如 Coding Agent：

写代码 → 跑测试 → 报错 → 修改代码 → 再跑测试 → 直到通过。

这里已经出现了“回头路”。

传统 DAG 只能往前走，而 Agent 需要 Cycle。

于是 LangGraph 出现了。

它最核心其实就三个东西：

State：共享状态，记录当前任务、代码、错误、重试次数。

Node：真正干活的节点，比如 Planner、Coder、Tester。

Edge：决定下一步去哪，尤其是 Conditional Edge，可以让流程根据结果继续、结束或者打回重做。

所以你会发现，LangGraph 本质上是在解决一个问题：

如何让 LLM 应用从“流水线”变成“会反复执行、判断和修正的状态机”。

再往后看 Claude Code、Codex、Aider、OpenCode 这些 Coding Agent，会发现它们底层虽然不一定直接使用 LangGraph，但核心思想其实非常接近：

Think → Act → Observe → Think → Act → Observe……

模型决定要看哪个文件，就调用 Read。

发现问题，就调用 Edit。

需要验证，就调用 Bash 跑测试。

工具结果重新进入上下文，模型继续判断下一步。

这就是最经典的 Agent Loop，也就是 ReAct。

所以现在我对 Agent 的理解越来越简单了：

LLM 决定“想做什么”，
Tool 负责“真的去做”，
State 负责“记住发生了什么”，
Loop 负责“让它继续做下去”。
而真正决定一个 Coding Agent 好不好用的，反而不是这个循环本身。
Agent Loop 可能几十行代码就能写出来。
真正困难的是：

怎么构建 Context，
怎么裁剪 Context，
怎么设计 Tool，
怎么处理错误，
怎么做权限控制，
怎么存档恢复，
什么时候该让人介入。

换句话说：

LangChain 解决“有哪些积木”。

LangGraph 解决“这些积木怎么流转”。
而 Claude Code、Codex 这种产品真正拉开差距的地方，是 Context Engineering 和整个 Agent Runtime 的工程能力。
理解到这里，再看各种 Agent 框架，会发现它们其实都没那么神秘。

[Chivos @Chivosic]

@ChrisHamous 好了，简历还我，我要去卖酱香饼了

[Chivos @Chivosic]

@NanouuSymeon insanely perfect setup i think

[Chivos @Chivosic]

@tomatomato35p fun😂

[Chivos @Chivosic]

Some energy for the long night.

[Chivos @Chivosic]

@earthserenityy wonder the life here

[Chivos @Chivosic]

@elyradream perfect

[Chivos @Chivosic]

就这么跟你说吧，Scaling Law 其实没死，但它换了张马甲，把账单从预训练推到了推理端。

如果顺着你这半句话接下去，现在大家聊 Scaling Law，基本都在经历三层认知反转：
1. 预训练的 Scaling Law：从“大力出奇迹”变成了“撞墙与精算”

两三年前的逻辑简单粗暴：只要堆卡、堆参数、吞掉整个互联网的语料，Loss 就会像钟摆一样稳定往下掉。

但现在这套老办法踩了三脚急刹车：
· 数据墙：公开的高质量人类文本基本上被刮地三尺淘空了。再塞低质爬虫数据，模型不仅不涨点，还会出现“知识稀释”；盲目喂合成数据，一不小心就陷入模型自体繁殖导致的崩溃（Model Collapse）。

· 算力与电力墙：从万卡集群到十万卡，硬件故障率（MTBF）和网络通信开销指数级上升，而且大电网容量和散热成了物理硬约束。

· 边际效益递减：为了在基准测试上压榨出最后2% 的准确率，付出的成本可能是之前总和的数倍。预训练的 ROI 已经逼近商业容忍极限。

2. 重心转移：从 Train-time 走向 Test-time Compute

预训练撞墙后，行业发现另一条斜率还没平缓的曲线：推理期计算（Test-time Scaling）。

以前的思路是“训练时倾家荡产，推理时一问即答”（System1的快思考）；现在的思路是“预训练打底，推理时给它时间让它想”（System2的慢思考）。

· Thinking Process / CoT 扩展：让模型在输出最终答案前，生成长思考链、做自我审视和分支试错。

· 搜索与验证（Search & PRM）：配合过程奖励模型（PRM）和蒙特卡洛树搜索（MCTS）这类机制，只要算力给够，模型可以在推理阶段生成数千个候选路径并打分挑选。

本质上，这让 Scaling Law 的坐标轴变了：算力不再只是用来“记住更多知识”，而是用来“展开深度推演”。

3. 下一个阵地：后训练与 RL 的合成演练

如果说预训练学的是“人类怎么说话”，现在的后训练（Post-training）加上强化学习（RLVR，带可验证奖励的强化学习），学的则是“怎么把一件事做对”。

在代码、数学、形式化验证等答案明确、有编译器或沙盒做裁判的硬核领域，通过模型自我博弈和自动化验证环境，合成高质量数据并利用强化学习持续 Scale 模型能力，成了绕过“人类语料见顶”的主流解法。

所以，如果要给 Scaling Law 接一个下半句：
旧的 Scaling 赌的是“通识记忆的上限”，而新的 Scaling 赌的是“逻辑探索的纵深”。规模效应依然有效，只是棋盘已经从“谁的数据中心更能烧卡做预训练”，转移到了“谁能让模型在推理和自我演进中更聪明地消耗 Token”。

[Chivos @Chivosic]

@worldparadiseX such a beautiful view

[Chivos @Chivosic]

@susu_space eh，what is this

[Chivos @Chivosic]

@dhh yeh，stay postive

[Chivos @Chivosic]

@hgds0 what do you mean😂🫢😂