Infi

[yibie @yibie]

训练小模型：2026 年最被低估的 AI 技能

2026 年 5 月 11 日，一个叫 CJ Zafir 的人发了一条推文。他想教普通人 fine-tune 开源模型。

2538 个赞，316 次转发，178,000 次观看。这条推文炸了。不是因为他发明了什么新东西——Unsloth 早在 2023 年就开源了，Hugging Face 上的 fine-tuning 教程有几百篇。炸了是因为他在一个所有 AI 公司都在比赛造「更大模型」的时候，反手指向了完全相反的方向：小模型。你自己训练的。在 Colab 上。花几十美元。

两个月过去了。CJ 没有停。

他把这条推文变成了一套完整的方法论：Codex 5.5 做大脑规划工作流，DeepSeek v4 Pro 做肌肉批量生成数据，Unsloth 做训练引擎，Qwen 3.5 4B 做基座模型。然后他用这套方法论，花了 $173 训练出一个 4B 模型，在垂直任务上精度 96%+，击败了 20 倍大的模型。 再后来他做了个 voice agent 的工具调用 fine-tune——成本 $11。

从 $80 到 $173 到 $11。这不是渐进式优化。这是在重置整个 AI 部署的经济学。

一、CJ 方法论：为什么值得认真对待

CJ 不是第一个倡导 fine-tuning 的人。但他做对了一件事：他把整个流程的成本打到了个人开发者可以承受的水平，并且公开了每一步。

工具链

| 角色 | 工具 | 成本 |
|------|------|------|
| 规划（Orchestrator） | Codex 5.5 | 订阅内 |
| 数据生成（Generator） | DeepSeek v4 Pro | API 按量 |
| 训练框架 | Unsloth | 免费开源 |
| 训练硬件 | Google Colab Pro A100 80GB | ~$0.60/hr |
| 推理部署 | llama.cpp / Ollama | 免费 |

数据流水线

CJ 最核心的洞察不是「用什么工具」，而是「怎么造数据」：

「"Low quality data = Low quality model performance"」

他的流水线是自进化的：Codex 设计工作流 → DeepSeek 批量生成数据行 → 每批次过 Quality Gates → Codex 根据上一批结果优化生成规格。结果是越跑越快、越便宜、质量越高。

$80 生成了 1 亿+参数的高质量数据集。 不是简单 paraphrase，是「手工打造」每一行——Codex 设计的多样化 prompt 模板 + DeepSeek 的高速执行 + 可编程的质量门槛。

模型选择

CJ 实测了 Gemma 4 和 Qwen 3.5 全系列后，结论很明确：

「Qwen 3.5 9B 和 4B 是垂直训练的完美基座模型。Gemma 4 在垂直任务上不及 Qwen 3.5。」

他的 Qwen 3.5 4B fine-tune 在精度和延迟上击败了 20 倍大的模型。不是什么小众 benchmark——是他自己在垂直任务上实测的结果。

二、这不是 CJ 一个人的实验——行业数据在同时发声

CJ 的方法论看起来像「个人黑客技巧」，但独立的数据正在从各个方向验证同一个趋势。

市场规模

SLM（Small Language Model，1B-13B 参数）市场 2024 年达到 65 亿美元，年复合增长率 25.7%。SLM 在大多数企业任务上已经匹配或超过 GPT-3.5 级别性能，只需一小部分成本。

性能

阿里巴巴的 Qwen 3.5 9B 在 MMLU-Pro、GPQA Diamond 和 multilingual MMMLU 三个基准上击败了 OpenAI 的 gpt-oss-120B——13 倍参数差距，小模型胜。

另一项独立的 brand normalization 案例中，一个小模型达到了 90.6% 准确率，超越了 GPT-5.2 和 Gemini 3 Pro。

企业已经在省钱——真正的省钱

| 公司 | 方案 | 效果 |
|------|------|------|
| Knowunity | 用 Distil Labs fine-tune SLM | 推理成本降 68% |
| 某客服 agent | 从通用大模型切换到 fine-tuned SLM | 月成本从 $13,000 降到 $400 |
| EliseAI | 专门训练的垂直小模型用于住房和医疗 | 推理成本降 60%，延迟降 80% |
| AT&T | 专用 SLM 做客服和欺诈检测 | 数百万美元节省 |

400 美元一个月。一个客服 agent。这是几个工程师的年收入可以覆盖无限次 API 调用的部署方案。

三、「数据集工厂」才是真正的护城河

CJ 在 5 月 22 日发了一条推文，八个词：

「"The moat might not be the fine-tune itself. It might be the dataset factory."」

这是整个小模型运动最重要的洞察。Fine-tuning 技能本身正在被民主化——Unsloth 已经能在 3GB VRAM 上训练，Colab 免费提供 GPU，CJ 连 prompt 模板都公开了。当人人都能做 fine-tune 的时候，差异化从「会不会做」转移到了「数据从哪里来」。

中文社区的 AKIRAXCLAW 在一篇分析里补了一个关键观察：

「「CJ 的工作流在 2026 年多数是业界共识，但真正难点不是工具——而是你有没有 200 笔干净数据 + 自动评估脚本。」」

在 CJ 的体系里，Codex 的核心角色是 orchestrator，不是因为它比 DeepSeek 聪明，而是因为它能设计数据流水线、构建 Quality Gates、自进化优化生成规格——它在管理数据生产的质量系统，而不仅仅是生产数据。

四、从边缘到生产线：部署已经在发生

SLM fine-tune 的部署门槛已经降到消费级硬件。Unsloth 2.0 支持 GGUF 量化导出 + llama.cpp / Ollama 部署。一个 3B 参数量化到 INT4 后占用 1.5-2GB 内存，可以在树莓派 5 上运行。Qwen 3-0.6B 在 Pixel 8 和 iPhone 15 Pro 上实现约 40 tokens/s 推理。

2024 年你可能需要一台 A100 才能跑 fine-tune。2026 年你可以在 Colab 上训练、在手机上推理。这种从「数据中心才能碰」到「个人设备上运行」的变化，是 Platform Shift 级别的。

而 NVIDIA 在推动的「Data Flywheel Blueprint」——用生产流量持续生成训练数据，自动 fine-tune，自动部署——正在把这个流程变成企业基础设施。NVInfo AI 用这个方案在三个月内把内部知识助手的质量提升到覆盖 30,000 名员工。

五、成本轨迹：从「公司预算」到「午饭钱」

CJ 的公开成本记录是最好的注脚：

| 日期 | 项目 | 成本 |
|------|------|------|
| 05-13 | 1 亿+参数数据集生成 | ~$80 |
| 05-27 | Qwen 3.5 4B 完整 fine-tune | ~$173 |
| 05-28 | Qwen 3.5 tool calling for voice agent | $11 |

$11。这在硅谷大概是一顿午饭。在印度、东南亚、非洲，是一个独立开发者完全负担得起的预算。fine-tune 已经从「大公司才有资格做的研发项目」变成了「个人开发者用午休时间能完成的 side project」。

六、结论：学会训练你的第一个模型

CJ 给的学习路线图异常简单：

1. 从 1B-4B 小模型开始，不要一上来就搞大模型
2. 用 Colab Pro（A100 ≈ $0.60/hr），不要急着买 GPU
3. 先 fine-tune 7-10 个模型积累经验（SFT → LoRA/QLoRA → GRPO/DPO）
4. 用 Codex 做规划，DeepSeek 做数据生成
5. 理解量化（GGUF）、本地推理（llama.cpp）、KV 缓存

他甚至在 5 月 23 日直接发布了一个「复制粘贴就能用」的 prompt——把整个学习路径封装成一段对话，扔进 Codex 或 ChatGPT，让 AI 带你从 beginner 到 advanced。

这就是 2026 年 AI 技能民主化的真实面貌：不是每个人都需要学会训练模型。但学会训练小模型的人，不再需要 10 人团队和 10 万美元预算。

通用大模型的军备竞赛还在继续。GPT-5、Claude Opus 5、Gemini 3 会越来越强。但越来越多的真实场景正在证明：一个花了 $173 训练的 4B 小模型，在你自己的数据上，比你花 $200/月订阅的通用大模型更好用。不是因为小模型更聪明。是因为它只做了你需要的那一件事。

参考来源：CJ Zafir X 推文系列 (2026.05.11-05.28)；AKIRAXCLAW 中文分析；Alibaba Qwen 3.5 benchmark (VentureBeat)；Unsloth 2.0 文档；NVIDIA Data Flywheel Blueprint；AT&T / EliseAI / Knowunity / https://t.co/7r0fApoHPJ 企业案例；Manicode / Arendil 独立 benchmark；SLM Market Report 2024-2026

[郭宇 guoyu.eth @turingou]

在 vibe 了五个多月之后，我不觉得 SOTA 模型公司有能力吃下所有软件，我也不站在使用 FDE 改造现的企业来挣点快钱的那一侧，相反的，我是坚定的 AI Native company 的支持者，我认为所有企业都会被 AI Native 的组织所替代，而我坚信这一变化会持续数十年，这些未来的软件公司，会创造本世纪最伟大的投资机会。

[Infi @infinityu]

很激动！争取多抽点时间出来看书

[李继刚 @lijigang]

有了微信读书 skill 之后，又多了一种“读法”：章节阅读。

给 agent 设定定时任务，每天晚上分析当天所有对话内容，基于自己的兴趣所在和思考盲区，推荐最适合的一本书中对应的“章节”。点击直接打开微信读书进行阅读。

你有个问题（可能不自知），ai 帮你调取人类的研究成果解药。

每天可能只需花二十分钟时间，就能读到最适合当下自己的内容。

[Infi @infinityu]

很多时候人们会因为一样东西便宜而产生轻视，但是如果那样东西既便宜又好用，那尊重也会随之而来。

[antirez @antirez]

@deepseek_ai 我衷心地感谢你们：你们的工作正在让人工智能及其理解为所有人所用。

[antirez @antirez]

@deepseek_ai 我衷心地感谢你们：你们的工作正在让人工智能及其理解为所有人所用。

[Dash @DashHuang]

OpenClaw 让我们看到了一个更好的、适用于未来长期的架构。

这套架构能保证未来每个人都有一个独属于自己的、高度可定制的、数据相对本地化且安全的 AI Agent。虽然现在的小毛病还很多，但是这套架构是值得长期投资的。(使用它本身就是一种投资)

即使未来有一个更好的 Agent 出现，现有的这些架构上记录的大量数据对于未来也都是长期非常有价值的。这些数据的可用性，要比之前离散在 ChatGPT、Claude 等等各种产品里积累的东西更强的多。

[Infi @infinityu]

@jc_he_afk 很有意思， 想试用一下， 谢谢

[硅谷王川 Chuan @Svwang1]

很多人不去深入研究健康的底层机制，或者保持较好的自律，因为这耗费能量太大。

而吃药，吃补品，商家的‘’药到病除‘’的许诺，迎合了大家不劳而获的心态，所以容易被大家津津乐道。

连”生物利用度”（bioavailability ) ，肝脏的首过效应 （first pass metabolism) 的概念和机制都不了解，就幻想吃补品可以提升健康，和求神拜佛没有区别。

凡是被很多人津津乐道的东西，门槛一般比较低。而门槛低的东西，往往都无法解决实质问题，都是一种心理安慰而已。

[郭宇 guoyu.eth @turingou]

多年以后，人们会忘记机器人在舞台上笨拙的舞蹈，人们会忘记关于政治和经济的宣传。我想，仍会有人回忆起世界命运之轮剧烈转动的 2026 年，这首歌是最绝妙的脚注，这甚至让我想起 zima blue，有生之年，我能否有幸见证 AI 与人类神性的融合。

[Infi @infinityu]

多则杂 杂则不入 少则精 精则神

[卢尔辰 @erchenlu1]

人生的目标感（purpose in life）能预测一个人的寿命长短，甚至比生活满意度（life satisfaction）更有效果。

研究团队来自芬兰赫尔辛基大学与阿尔托大学，他们对近 6000 名美国中年人进行了长达 23 年的追踪研究。研究比较了两个心理变量：

生活满意度（Life satisfaction）：对现状的总体满足与幸福感。

人生目标感（Purpose in life）：对人生意义与方向的清晰感与投入感。

核心发现在控制了健康、年龄、社会经济地位等多种变量后：

“人生目标感”是死亡率更强的预测因素。

也就是说有明确目标和意义感的人，活得更久。
当两者同时进入模型时，生活满意度的预测力显著下降，几乎被目标感“盖过去”了。

研究者总结：“Purpose in life is a robust predictor of mortality.”（人生目标感是死亡率的稳健预测指标。）

💡 为什么“目标”比“生活满意”更重要？

研究指出几个机制：

主动参与（Active engagement）：有目标的人更积极面对生活，而非被动享受现状。

压力下的韧性（Resilience during stress）：目标提供心理稳定性，使人能在困难时恢复。

意义与自我价值（Meaningful activity & self-worth）：目标让人感觉“自己重要、有用”，从而维持心理与生理健康。

🧭 总结一句话：

“幸福让人感觉好，但目标让人活得久。”
幸福是被动的满足，目标是主动的前行。

[Infi @infinityu]

400 words!
#languagelearning #Japanese

[Infi @infinityu]

Starting my Japanese journey through comprehensible input. I’ll record the words I pick up each day—aiming for 3,000 to hit the sweet spot where real understanding begins.
#languagelearning #Japanese

[Infi @infinityu]

@ibit お願いします🤲

[thasmin @thasmin]

Github's SpecKit probably uses a lot of tokens which means it's expensive. It needs to provide a clear advantage when writing code.

[硅谷王川 Chuan @Svwang1]

擅长围棋象棋的人，他们喜欢这类游戏的一个原因，是因为参赛者都有完整和真实的信息，规则清晰没有争议。因此可以完全依靠严谨的逻辑和计算取胜。

生活的游戏的不同之处在于，没有任何人有完整和正确的信息，所有人对现实的认知都是不准确的，不准确的程度差别会非常大。而且游戏规则本身也是模糊的，也在群体博弈中不断演化。

当大量拥有不同认知，和不同信息感知力的个体相互博弈，可能会自发涌现出某种正反馈，把一些 (在个体看来可能很荒谬的) 趋势放大，推向极端，直到接触到物理世界的硬约束，才可能逆转。

能够意识到“信息不完整的人群常有顽固而荒谬的行为模式”, 和“博弈规则本身就是模糊和不断演化的”这两个事实，就已经是认知上的一大进步，这样不会死板的纠结于一些人为制定的已经被现实抛弃的规则和经验，而把注意力放在关注游戏规则在未来的演化方向，提前布局，以逸待劳。

[Bear Liu @bearliu]

一个暴论：大部分程序员是没有生活的。所以也不会好的产品想法。

[硅谷王川 Chuan @Svwang1]

人的所谓个性，就是面对不同场景时本能的应对方式，本质是早期成长经历塑造出来的，未经审视的默认设置。

这种设置让你在早期环境中得以苟活，但环境变化后它不再有效，慢慢与现实格格不入。

个性是人的自我感的一部分，改造个性让人本能的觉得是对自我的背叛，所以一般人缺乏意识和动力去主动改造其内核中一些明显过时的设置。

个性改造像是一个对自己的可控爆破 （controlled demolition)。过程颇有些疼痛。但当你经验积累越来越多，对疼痛承受的阈值到达一定高度，开始尝到甜头后，就会开始更加主动的对自己的各种陈旧的默认设置，进行定点可控爆破。

[Yangyi @yangyi]

我看了一下Anthropic分享的Prompt101

其中有两个我觉得可以分享，强化一下使用：

第一个叫做预填充响应 (Pre-fill Response)

>做什么： 在API调用中，直接为模型的回答提供一个开头。

>为什么： 这是强制模型输出特定结构（尤其是JSON）的有效技巧。

>示例： 在API请求的“助手（assistant）”部分，直接填入一个左花括号 {，以引导模型续写一个完整的JSON对象。

这个预填充更容易引导模型按照你的输出模式进行响应，因为LLM是文字接龙

第二个是Prompt调试，利用“扩展思考”功能 (Extended Thinking / Scratchpad)

>作用： 这是一个强大的调试工具。开启此功能后，模型会显式地展示其“思考过程”或“草稿板”。

>如何使用： 通过分析模型的思考记录，你可以理解它在哪些环节遇到了困难或产生了误解。然后，你可以将这些洞察转化为更清晰的分步指令，固化到你的提示词中，从而使提示词本身变得更强大、更高效。

这个其实是23年宇龙分享过的一个思路，就是当提示词输出效果不符合预期时，需要与模型沟通，确认模型对提示词中的哪部分理解出现了语义偏差。

打印思考也是这种思路的一个变体。

以上是我学到的，视频可能还有其他信息可供学习👇

[Rocky @Rocky_Bitcoin]

今天看 @AnthropicAI 旗下 #Claude AI的演示视频，把我惊艳到了。作为一名职业投资人，美股公司+#Web3 项目，每年要盯上百个，尤其是财报季简直就是战场！

如视频中这类实战案例，还是比较常见的：办公室刚坐下，时间下午2点，PM（投资总监）火急火燎冲进来：

“Sarah，咱们重点关注的那家公司 Velocity Athletic 刚出完财报，营收暴跌12%，但股价居然涨了17%，已经到 71 美金了。你给我搞清楚，这波上涨到底是利好策略刺激还是假反弹？今天收盘前要做决策，是卖出止盈，还是继续持有。”

其实这个逻辑就像本周五非农数据+56两个月下修的就业数据(5月+6月下修砍了26万份工作，相当于整个迈阿密的人口突然失业)。这种情况，你要第一时间作出判断决策，立刻反馈到还未开盘的美股，加密资产做对冲，这需要即刻的响应和数据做支持，将能有效避免掉周末的这波下杀。

我们来看看正常金融分析师的路径(预计4-5小时)：

1️⃣去 S&P Global 拉财报、会议纪要
2️⃣打开 FactSet / Morningstar 看历史数据和估值
3️⃣切 Edgar 查SEC公告
4️⃣挖内网的历史 memo、研究报告
5️⃣然后再做表格、画图、写memo

这一通操作，至少得 4~5 小时，手动切好几个系统，信息不一致还容易出错。

💡这时候 #Claude 出场，真的像是我多了一个超级分析师助理：

直接给 #Claude 下个指令：“帮我综合分析 Velocity Athletic 的财报表现，股价异动是否合理，出一份投资memo。”

🔍 1️⃣多平台同步拉数据 + 语义理解

Claude 不是简单爬数据，它能理解我需要的背景：

· 从 S&P Global 抓取电话会议内容，提炼出关键信息，比如 CFO 在 Q&A 中提到“受关税影响，利润率下降400个基点”；
· 从 Morningstar 拉出历年数据和对手对比；
从我们公司的内部文档（box）找出了过往写过的 Velocity 分析框架；
· 从 Delupa 抓取 8 个季度的财务数据，直接做出趋势图表；
· 所有内容都标明出处，随时点进去二次确认，极大提高了合规和信任度。

📊 2️⃣生成可视化图表 + 核心模型

问 #Claude：“帮我做一个 annotated price chart、同行估值比较表、以及DCF模型。”

它逐步实现：

· 标注事件的股价走势图（显示了CFO减持、董事会紧急会议、财报发布时间等）；
· 一张清晰的 comps 表：Velocity 的 EV/EBITDA 是 21 倍，行业均值才 16 倍，估值偏高；
· 一套完整的 DCF 模型：假设清楚、自由切换情境、连 WACC 的计算都是标准的。
· 模型推算出来的合理股价：54 美元，远低于当前71美元，说明当前的上涨偏乐观，泡沫成分很大。

📝 3️⃣自动生成机构级投资memo

最后，我说：“用我们基金内部模板出一份memo，供PM参考。”

Claude 直接调用内网的memo模板，自动填充以下内容：

推荐结论：建议趁高点卖出获利，等价格回调再建仓；

逻辑支持：从财务基本面、市场反应、行业对比、估值偏离等维度进行量化支撑；

潜在风险：比如未来若关税缓解、CFO减持另有原因，可能导致股价进一步波动；

清晰引用：所有数据都带有原始出处链接，供PM或法务复查。

看完整个视频演示，我觉得 #Claude 完全是财报分析的“#AI 核武器”，目前加密数据支持的API数据接口还比较少，假如后期完善后，这完全可以成为 #Web3 投研的杀手锏。

假如说我们以前做项目分析要“十指翻飞 + 九屏查数据 + 五个脑袋并用”，现在有了 #Claude，就像多了个24小时不下线的金牌分析员，还不喊加班，效率起飞📈！