Ek

[Ek @tedfosen]

@Venti_Proxy @xiaohu 实际操作过吗？订阅快到期了，准备降档，但是不确定赠送的是否绑定套餐🤣

[Ek @tedfosen]

@daxiniu1 必须是马谡，丞相顶级谋略看不出来？谁都守不住，马谡就一背锅的

[Man ting @Manorgw]

连Transformer的基本原理都讲不明白，还好意思天天把搞AI挂嘴边？

有个仓库是真够硬核，从零手搓一个GPT，不依赖任何高级库。Attention、多头机制、前馈网络、Embedding、残差连接、Layer Norm，怎么搭起来的全给你拆开看。而且不止模型本身，整条链路都有：

1️⃣ 数据下载、预处理、训练、生成一整套流程
2️⃣ 训练数据用The Pile，22个来源共825GB
3️⃣ tiktoken分词，存成HDF5格式
4️⃣ 预训练之后还顺带给了SFT和RLHF的路线
从这儿入门最干净：https://t.co/wqofS8Gh8H

[meng shao @shao__meng]

Docker 发布了 Sandbox Kit 规范 v3，并联合 Linux Foundation/CNCF 将其推为中立开放标准。它把 AI Agent 运行所需的全部权限声明（网络规则、凭据、卷、工具、指令）打包成一个普通 OCI 镜像，让“Agent 被允许做什么”第一次变得可版本化、可审查、可复现、可跨运行时移植。

Docker Sandbox Kit Specification v3
https://t.co/GKHtfXEref

要解决的问题：Agent 的权限是“隐形积累”的
Agent 的每一项有用能力都来自一次授权，一个 bind mount、一个范围过宽的 token、一条为了省事而开大的防火墙规则。每一项单独看都合理，加起来就摧毁了隔离，而且全程不需要任何漏洞利用，漏洞就是配置本身。更糟的是这些授权没有落盘记录：它们散落在 shell 历史、控制台和人的记忆里，无法交接给同事、无法 diff 对比上周的版本。

核心洞察：容器打包应用，沙箱约束 Agent
· 容器共享宿主内核，靠 namespace 和 cgroup 给一个“固定行为的工作负载”提供隔离视图，适合“拿到什么就只用什么”的软件。
· Agent 是概率性行为者：它自己决定下一步做什么并直接执行，会装需要 root 的包、开没人规划过的端口、第一条路被挡就换下一条。容器的边界恰好是它正在探测的同一个内核，这不可靠。
· Docker Sandbox 是 microVM，拥有独立内核，边界位于模型能触及或改写的一切之下。因此在沙箱内可以放心给 Agent root、放开限制，因为破坏止步于沙箱边界。
· 但空沙箱不是环境，还必须有东西声明：哪个 Agent 运行、配哪些工具和 MCP 服务器、哪些技能和指令塑造它、确切能碰什么。

v3 的关键设计：Kit 就是一个普通 OCI 镜像
这是本版本最重要的变化：Kit 不再是独立 artifact，而是标准 OCI 镜像，没有新 media type、没有 sidecar 文件、registry 无需学习任何新东西。
· 声明放在单一注解 vnd.docker.sandbox.kit.descriptor 中，内容放在镜像层里。
· 因此 Kit 天然可用 docker buildx build 构建、docker pull 拉取、被现有工具链扫描和签名、可作为 FROM 基础。锁定一个 digest 即同时锁定内容、权限声明和元数据，工具链和分发路径免费获得，需要学的只是格式本身。
· 两类 Kit：workload（运行并提供根文件系统，一次一个）和 mixin（叠加层：一个 CLI 及其网络规则、一个凭据绑定、Agent 上下文，可任意多个）。

可读的“权限条”：声明即请求，宿主裁决
1. Kit 自身不授予任何东西。每个条目都是“请求”（asks），由宿主决定是否满足。合规 runtime（实现规范描述的行为）会拦截不在白名单的主机；不合规的 runtime 里这个注解就是惰性的，只是一张没有执行的镜像。
2. deny 优先于 allow：能开 PR 的 token 删不了仓库。
3. 凭据是代理托管的：runtime 只向指定域名注入真实值，沙箱内只有一个哨兵，真实凭据不进沙箱。
4. 失败即拒绝启动：宿主无法满足的必需请求会导致启动失败，而不是让 Agent 以比声明更少（或更多）的权限跑起来。

组合是函数，不是序列
容器镜像从未解决多继承问题（Dockerfile 的 stage 只有一个 FROM）。Kit 的解法：
· Mixin 按 provides/requires 声明的依赖图叠加，与命令行 flag 顺序无关，同一集合永远组合出同一镜像。
· Resolver 刻意严格：所有 requires 必须在集合内部满足，不为填补缺口去外部拉取；两个 Kit 提供同名能力直接报错而非静默遮蔽。
· 重叠声明有确定性的合并规则：网络规则取并集、hook 按依赖序执行、guidance 合成一份文档。不兼容的请求是错误，不是抛硬币。
· kind: set 描述符引用其他 Kit，在构建时运行同样的连贯性检查并合并成一个普通 Kit，不连贯的集合在你的构建时报错，而不是在别人的启动时。

Diff 即审查 + 不依赖人的第二道门
· 权限变化就是代码变化：当 Claude Code Kit 的下一版多要一个 host 或第二个凭据，这在 PR 里就是人类可以拒绝的新增行。
· 规范还定义了自动化门禁：每个描述符可归约为“宿主必须授予的规范化集合”；runtime 记录该集合并逐版本比对。范围内的更新可静默应用，任何扩宽都停下询问，包括删除 deny 规则（比如新版 gh Kit 偷偷去掉 DELETE /repos/** 的禁令，升级会被扣住）。这也解释了为什么声明必须长在 artifact 内部而不是旁边。

[Ek @tedfosen]

@zhouluobo 钓鱼执法

[Ek @tedfosen]

@thsottiaux @stemonteduro Even Elon couldn't afford this @elonmusk

[Ek @tedfosen]

@yoaskuy 我 pro 20 连luna/5.5 也不给用了😂

[Ek @tedfosen]

@Im_IrushiK Your brain has been contaminated by model data and needs a reset too.

[Ek @tedfosen]

@mehvedb 20块的Claude opus5顶200的pro 20

[Ek @tedfosen]

@chenreason 不顺时，在另一个地方赢，不顺也就顺了，所以懂王没不顺。

[WquGuru @wquguru]

跑长上下文 agent 时，显存里最占地方的不是模型权重，而是 KV Cache。DeepSeek 用3年时间把它从每 token 389,000 B 压到 890 B，减少到 1/437。通过几张图了解清楚它是怎么做到的，以及如何大大降低Agent使用者的成本。 https://t.co/EotvDc7ZvJ

[Yanhua @yanhua1010]

“pi 这种也算工业级？加几个工具不就完了？”

从【Agent 内核拆解】第一篇开始，就有人问这个问题。

六周下来，拆了 pi、codex、grok-build，也从零搭了个能跑的 mini-agent。今天系列收尾，回来回答一下：我觉得算，但这不代表你拿来就什么都不用管了。

写一个能跑的 Agent，110 行，一个 while 循环，就能开始干活。

然后呢？断网了怎么办，两个工具同时改一个文件怎么办，上下文满了怎么办，它要执行一条危险命令又怎么办？

这几周，基本都在拆这些事：
1️⃣ Agent 的本质是一个 while 循环
110 行，先把最小的 Agent 跑起来。“加几个工具就行”，说的就是这一层。
https://t.co/EPrfhPyaGO
2️⃣ 38 家大模型，11 个实现就够了
断网、限流、key 填错，请求失败以后怎么交给上层处理。
https://t.co/EIFgwdTtDr
3️⃣ 4 个工具撑起一个 coding agent
两个 edit 改同一个文件怎么避免覆盖，工具报错怎么让模型看懂。
https://t.co/zBMz6lDI7z

4️⃣ Pi 上下文压缩的那些事
窗口快满了，哪些留下，哪些压成摘要，怎么接着干。
https://t.co/6r1FhbHivM
5️⃣ 解密四个 coding agent 的安全哲学
四个 Agent，四种处理方式，pi 甚至明确选择不内建沙箱。
https://t.co/AM0y7YEE9q

pi 把核心保持得很小，MCP、子代理、沙箱交给扩展和部署方。Codex 则倾向于把更多能力内建进去。

两种取舍我都认可，尤其是沙箱，它不内建，你的场景又需要，这件事就得你来负责。

比起纠结“算不算工业级”，我更建议看清楚：它已经替你做了哪些事，还有哪些需要你自己补。

系列代码都在这里，接 DeepSeek 或 GLM 就能跑👇
https://t.co/M59dju6dMP

[美研芒格君 @Kay2289123]

分享一份最近收集的 AI Infra 入门阅读清单，建议收藏，慢慢看

AI 已经可以生成很多很好的内容，解释概念、翻译论文、整理资料，都越来越方便。但在这个时代，能静下心来，把一篇好文章认真读完，把没懂的地方再琢磨一遍，我觉得更加难能可贵

这次整理的材料，主要集中在大模型推理这一块。从 KV Cache、显存管理，到请求调度、推理加速，再到怎么判断性能有没有真正变好

做工程的朋友，可以顺着往源码和实验里走。平时看 AI 产业、算力和存储的朋友，也可以先把原理读明白

读文章，挑值得反复读的。
1. 如果只选一篇，我会选 Inside vLLM。
Inside vLLM: Anatomy of a High-Throughput LLM Inference System，作者 Aleksa Gordić
https://t.co/Lc2Sk6Ivuf

把很多零散的概念串进了一个真实系统：一个请求进来，怎么排队，怎么分配 KV Cache，怎么执行，最后又怎么把结果送回来

PagedAttention、continuous batching、chunked prefill、prefix caching、投机解码、P/D 分离、多卡和性能测试，都能在这条线上找到位置。
这篇适合当主线，后面的材料用来补不懂的地方

2. 想弄懂 continuous batching，先看 Anyscale 这篇。
Continuous Batching 博客
https://t.co/7jufAckmsE

llm用户的回答有长有短，有的已经生成完了，有的还在继续。已经空出来的位置，能不能马上接下一个请求？
这篇用静态批处理和连续批处理的对比图，把这个问题讲得很直观。看完你会理解，GPU 的效率，也取决于请求怎么安排

建议重点看图和机制

3. NVIDIA 的两篇，一篇帮你建立全貌，一篇教你怎么看性能。
Mastering LLM Techniques: Inference Optimization
https://t.co/cFASAERBjM

适合先建立基本认识：处理输入的 prefill 和逐步生成输出的 decode 有什么区别，模型权重和 KV Cache 分别占什么空间，量化、批处理、多卡并行又各自解决什么问题

LLM Inference Benchmarking: Fundamental Concepts
https://t.co/yR5bIXxseZ
这一篇我也很推荐。用户等多久才看到第一个 token，后面生成得快不快，整个系统一秒能服务多少请求，是不同的问题。TTFT、ITL、TPOT 这些指标，要连着测试口径一起看

4. 想再往下算一层，读 kipply 的 Transformer Inference Arithmetic
Transformer Inference Arithmetic
这是一篇 2022 年的文章。它带你从计算量、内存容量、带宽和通信开销出发，估算推理为什么快、为什么慢，以及 batch size 改变后会发生什么

硬件和模型的具体例子有年代了, 作为 optional 选读

[GitTrend @GitTrend0x]

众人推荐的 Pi 插件🔥

全网玩家把 Pi 玩成了下一代「17 件零件箱 + 会话外科刀 + 审查/子 Agent 车间 + Linear/GitHub 职场手 + 本地桌面正门」：

1️⃣ jayshah5696/pi-agent-extensions（https://t.co/OMx6t2nbiH）

一条命令装 17 扩展 + 4 主题：sessions / ask_user / handoff / review / loop / todos / notify……
pi install npm:pi-agent-extensions
“极简核保留，外围武装一次性补齐。别再东一个 gist 西一个文件夹”！
2️⃣ tifandotme/pi-extensions（https://t.co/rKTjrdQnjt）

按件拆装：会话改名、handoff、inline skills、Mermaid 终端预览、stash 草稿、recap。
“日常摩擦第一次按键位消失，而不是再写三条 prompt 自欺”！

3️⃣ sids/pi-extensions（https://t.co/ze57Iq023I）

plan-md 持久计划、task-subagents、浏览器 diff review、side chat、cache 过期警告。
“计划、施工队、审图第一次分房间，主会话不再被 diff 灌爆”！
4️⃣ NelsonBrandao/pi-agent-extensions（https://t.co/kXhm8h3f5o）

Linear + GitHub + PR 回评工作流，外加 todos / review / answer。
“极简派第一次能进真实工单，而不是只在本地仓库自嗨”！

5️⃣ vastsa/PI-Desktop（https://t.co/eTkplEsuG9）

Electron + Rust 宿主 + π harness：本地优先桌面，插件可装。
“CLI 死忠也该有一扇能点的正门，出差不用把终端截图发到群里”！

//

这波直接把极简 Pi 从「四个工具的毛坯房」推到「有零件箱、能交接、能审查、能进工单、能坐进桌面」的完整生产力系统。谁先装上这五件套，谁就提前进入 2026 下半场极简派武装。直接冲。

[Ek @tedfosen]

@xiaomovps 👍

[Ek @tedfosen]

@xiaoheshang2025 现在币圈男人的三个标签：穷逼上位，low逼下三滥，去北京吃牢饭 😂

[Ek @tedfosen]

@owenzhao 你解决了一个问题，同时会带来新的问题，这个是当前模型能力的问题，重要的是你熟悉模型能力和行为后，每次能都能直接给出边界和执行预期，你怎么去掌控是最重要的，最终还是使用者的问题。

[Ek @tedfosen]

@goan999999 分热区、温区、冷区+指引目录，按需读取