Philip

blue blue

[yibie @yibie]

训练小模型：2026 年最被低估的 AI 技能

2026 年 5 月 11 日，一个叫 CJ Zafir 的人发了一条推文。他想教普通人 fine-tune 开源模型。

2538 个赞，316 次转发，178,000 次观看。这条推文炸了。不是因为他发明了什么新东西——Unsloth 早在 2023 年就开源了，Hugging Face 上的 fine-tuning 教程有几百篇。炸了是因为他在一个所有 AI 公司都在比赛造「更大模型」的时候，反手指向了完全相反的方向：小模型。你自己训练的。在 Colab 上。花几十美元。

两个月过去了。CJ 没有停。

他把这条推文变成了一套完整的方法论：Codex 5.5 做大脑规划工作流，DeepSeek v4 Pro 做肌肉批量生成数据，Unsloth 做训练引擎，Qwen 3.5 4B 做基座模型。然后他用这套方法论，花了 $173 训练出一个 4B 模型，在垂直任务上精度 96%+，击败了 20 倍大的模型。 再后来他做了个 voice agent 的工具调用 fine-tune——成本 $11。

从 $80 到 $173 到 $11。这不是渐进式优化。这是在重置整个 AI 部署的经济学。

一、CJ 方法论：为什么值得认真对待

CJ 不是第一个倡导 fine-tuning 的人。但他做对了一件事：他把整个流程的成本打到了个人开发者可以承受的水平，并且公开了每一步。

工具链

| 角色 | 工具 | 成本 |
|------|------|------|
| 规划（Orchestrator） | Codex 5.5 | 订阅内 |
| 数据生成（Generator） | DeepSeek v4 Pro | API 按量 |
| 训练框架 | Unsloth | 免费开源 |
| 训练硬件 | Google Colab Pro A100 80GB | ~$0.60/hr |
| 推理部署 | llama.cpp / Ollama | 免费 |

数据流水线

CJ 最核心的洞察不是「用什么工具」，而是「怎么造数据」：

「"Low quality data = Low quality model performance"」

他的流水线是自进化的：Codex 设计工作流 → DeepSeek 批量生成数据行 → 每批次过 Quality Gates → Codex 根据上一批结果优化生成规格。结果是越跑越快、越便宜、质量越高。

$80 生成了 1 亿+参数的高质量数据集。 不是简单 paraphrase，是「手工打造」每一行——Codex 设计的多样化 prompt 模板 + DeepSeek 的高速执行 + 可编程的质量门槛。

模型选择

CJ 实测了 Gemma 4 和 Qwen 3.5 全系列后，结论很明确：

「Qwen 3.5 9B 和 4B 是垂直训练的完美基座模型。Gemma 4 在垂直任务上不及 Qwen 3.5。」

他的 Qwen 3.5 4B fine-tune 在精度和延迟上击败了 20 倍大的模型。不是什么小众 benchmark——是他自己在垂直任务上实测的结果。

二、这不是 CJ 一个人的实验——行业数据在同时发声

CJ 的方法论看起来像「个人黑客技巧」，但独立的数据正在从各个方向验证同一个趋势。

市场规模

SLM（Small Language Model，1B-13B 参数）市场 2024 年达到 65 亿美元，年复合增长率 25.7%。SLM 在大多数企业任务上已经匹配或超过 GPT-3.5 级别性能，只需一小部分成本。

性能

阿里巴巴的 Qwen 3.5 9B 在 MMLU-Pro、GPQA Diamond 和 multilingual MMMLU 三个基准上击败了 OpenAI 的 gpt-oss-120B——13 倍参数差距，小模型胜。

另一项独立的 brand normalization 案例中，一个小模型达到了 90.6% 准确率，超越了 GPT-5.2 和 Gemini 3 Pro。

企业已经在省钱——真正的省钱

| 公司 | 方案 | 效果 |
|------|------|------|
| Knowunity | 用 Distil Labs fine-tune SLM | 推理成本降 68% |
| 某客服 agent | 从通用大模型切换到 fine-tuned SLM | 月成本从 $13,000 降到 $400 |
| EliseAI | 专门训练的垂直小模型用于住房和医疗 | 推理成本降 60%，延迟降 80% |
| AT&T | 专用 SLM 做客服和欺诈检测 | 数百万美元节省 |

400 美元一个月。一个客服 agent。这是几个工程师的年收入可以覆盖无限次 API 调用的部署方案。

三、「数据集工厂」才是真正的护城河

CJ 在 5 月 22 日发了一条推文，八个词：

「"The moat might not be the fine-tune itself. It might be the dataset factory."」

这是整个小模型运动最重要的洞察。Fine-tuning 技能本身正在被民主化——Unsloth 已经能在 3GB VRAM 上训练，Colab 免费提供 GPU，CJ 连 prompt 模板都公开了。当人人都能做 fine-tune 的时候，差异化从「会不会做」转移到了「数据从哪里来」。

中文社区的 AKIRAXCLAW 在一篇分析里补了一个关键观察：

「「CJ 的工作流在 2026 年多数是业界共识，但真正难点不是工具——而是你有没有 200 笔干净数据 + 自动评估脚本。」」

在 CJ 的体系里，Codex 的核心角色是 orchestrator，不是因为它比 DeepSeek 聪明，而是因为它能设计数据流水线、构建 Quality Gates、自进化优化生成规格——它在管理数据生产的质量系统，而不仅仅是生产数据。

四、从边缘到生产线：部署已经在发生

SLM fine-tune 的部署门槛已经降到消费级硬件。Unsloth 2.0 支持 GGUF 量化导出 + llama.cpp / Ollama 部署。一个 3B 参数量化到 INT4 后占用 1.5-2GB 内存，可以在树莓派 5 上运行。Qwen 3-0.6B 在 Pixel 8 和 iPhone 15 Pro 上实现约 40 tokens/s 推理。

2024 年你可能需要一台 A100 才能跑 fine-tune。2026 年你可以在 Colab 上训练、在手机上推理。这种从「数据中心才能碰」到「个人设备上运行」的变化，是 Platform Shift 级别的。

而 NVIDIA 在推动的「Data Flywheel Blueprint」——用生产流量持续生成训练数据，自动 fine-tune，自动部署——正在把这个流程变成企业基础设施。NVInfo AI 用这个方案在三个月内把内部知识助手的质量提升到覆盖 30,000 名员工。

五、成本轨迹：从「公司预算」到「午饭钱」

CJ 的公开成本记录是最好的注脚：

| 日期 | 项目 | 成本 |
|------|------|------|
| 05-13 | 1 亿+参数数据集生成 | ~$80 |
| 05-27 | Qwen 3.5 4B 完整 fine-tune | ~$173 |
| 05-28 | Qwen 3.5 tool calling for voice agent | $11 |

$11。这在硅谷大概是一顿午饭。在印度、东南亚、非洲，是一个独立开发者完全负担得起的预算。fine-tune 已经从「大公司才有资格做的研发项目」变成了「个人开发者用午休时间能完成的 side project」。

六、结论：学会训练你的第一个模型

CJ 给的学习路线图异常简单：

1. 从 1B-4B 小模型开始，不要一上来就搞大模型
2. 用 Colab Pro（A100 ≈ $0.60/hr），不要急着买 GPU
3. 先 fine-tune 7-10 个模型积累经验（SFT → LoRA/QLoRA → GRPO/DPO）
4. 用 Codex 做规划，DeepSeek 做数据生成
5. 理解量化（GGUF）、本地推理（llama.cpp）、KV 缓存

他甚至在 5 月 23 日直接发布了一个「复制粘贴就能用」的 prompt——把整个学习路径封装成一段对话，扔进 Codex 或 ChatGPT，让 AI 带你从 beginner 到 advanced。

这就是 2026 年 AI 技能民主化的真实面貌：不是每个人都需要学会训练模型。但学会训练小模型的人，不再需要 10 人团队和 10 万美元预算。

通用大模型的军备竞赛还在继续。GPT-5、Claude Opus 5、Gemini 3 会越来越强。但越来越多的真实场景正在证明：一个花了 $173 训练的 4B 小模型，在你自己的数据上，比你花 $200/月订阅的通用大模型更好用。不是因为小模型更聪明。是因为它只做了你需要的那一件事。

参考来源：CJ Zafir X 推文系列 (2026.05.11-05.28)；AKIRAXCLAW 中文分析；Alibaba Qwen 3.5 benchmark (VentureBeat)；Unsloth 2.0 文档；NVIDIA Data Flywheel Blueprint；AT&T / EliseAI / Knowunity / https://t.co/7r0fApoHPJ 企业案例；Manicode / Arendil 独立 benchmark；SLM Market Report 2024-2026

[向阳乔木 @vista8]

今晚跟 @HiTw93 直播的内容总结。

主持人 @yuanzi_owO（元子）和我，干货很多，也终于知道为啥人家做的产品审美都那么好！

[Philip @PhilipPing1]

@libapi_ 好像不支持在会话列表中显示来自 CLI、Telegram、等渠道的对话？

[陆三金 @threeaus]

Anthropic 的哲学家@AmandaAskell 最近参加了一个访谈，在访谈中她分享了自己探索好奇领域的一个方法。

提示词大概是：

我希望你从「xx」领域里选一个大概研究生水平的概念。然后我希望你通过写一个寓言的方式，间接地把这个概念完整讲出来。最好一直到快结尾时，人才会慢慢意识到这个概念究竟是什么。然后在故事之后，再补一段解释，把你刚才真正要讲的概念说清楚。

[Philip @PhilipPing1]

@Lonely__MH 慎用

[Philip @PhilipPing1]

@servasyy_ai @CreaoAI 坐等教程

[Philip @PhilipPing1]

@CryptoJHK 占坑

[Philip @PhilipPing1]

@jakevin7 厉害了~

[Philip @PhilipPing1]

@KeWai386772 坐等

[GREG ISENBERG @gregisenberg]

2026 is the GREATEST time to build a startup in 30 years

I’m 36. I’ve sold 3 startups, helped build companies that raised billions, and backed teams from seed to unicorn.

20 MEGA shifts that make this the BEST time to build in a GENERATION:

1. Hardware got smart. Download open-source AI models from HuggingFace to cheap robots and they're suddenly smart. Opens up tons of use-cases.

2. SaaS is imploding. AI can replicate $500K software for pennies. Enterprise software that took 30 engineers now requires 1 and a Claude Code subscription. Founders will go more niche and more custom and outprice incumbents.

3. Outcome-based pricing is eating subscriptions. With AI agents handling work automatically, founders can guarantee results instead of selling features. This creates a massive arbitrage opportunity to steal market share from rigid subscription models.

4. Vibe marketing is the new marketing. AI agents/tools like Lindy, Gemini and Claude Code Using agents to do personalized outreach, ads and content creation it’s getting good. This is like getting on social in 2005.

5. Social is FYP-ified. Distribution no longer requires massive followings, just content that hits. Founders can build audience from zero without ads and then convert them to owned media channels (text/email).

6. Interfaces are vanishing. Conversations are replacing dashboards across industries. This removes training barriers and means customers can use sophisticated products immediately.

7. Companies are obsessed with efficiency and cutting costs right now. Corporate budgets are getting reallocated to AI. Companies are cutting traditional software spend to make room for AI-powered alternatives. This creates fast-tracked approvals for startups delivering 10x efficiency.

8. 99% of MVPs won't need VC. Low-cost MVPs combined with creator partnerships and AI automation allow bootstrapped scaling. For most software businesses, outside funding is now unnecessary.

9. Global teams. You don’t need to hire in your own city anymore. Opens up tons of arbitrage opportunities and ways to create products unlike before.

10. Millions of creators want to get paid. If you have the right product, the right network of creators, you can hit scale insanely efficiently. Never before did this exist. Next gen founders are building startups community first, software second.

11. Prototyping is nearly instant. With Lovable, Rork etc, you can test ideas in days, not months. MVP speed is basically 1x/week. This creates room for multiple products from small companies (multipreneurship), helps get to PMF faster,

12. LLM APIs create building blocks weekly. I can’t even keep up with how many new APIs/tools coming out from LLMs weekly. Example: Nano Banana pro comes out, probably 1000 ideas built on top of that can be $5M/year businesses.

13. $1m+ revenue per employee. With the leverage of LLMs, community and agents, employees are way more efficient. It won’t be uncommon to generate $1m per employee. This will lead to a rise of "multipreneurship", small teams owning multiple products /businesses. Holding companies will be as common as startups.

14. Superniche is the new niche. Because costs to create software startups is 1/100th, you can service little niches (i call them superniches) and still have a life-changing business.

15. Mobile app ecosystem about to 10X. 2 reasons. First is, adding AI to apps make apps more useful. More useful apps, make more money. Second,

16. Compliance and boring workflows are suddenly buildable. Permits, audits, insurance, payroll edge cases, filings, RFPs. These were “too annoying” for startups before. Agents thrive on rules, checklists, and repetition. The least sexy problems now have the best unit economics.

17. Claude Code killed the “engineering bottleneck.” The constraint is no longer “can we build it,” it’s “do we understand the workflow deeply enough.” The winning founders are ex-operators who encode tribal knowledge into agents. Code is cheap. Taste + domain insight is scarce.

18. The long tail of software is now profitable. Niches that capped at $200k ARR can clear $5M with near-zero marginal cost.

19. Services are quietly becoming software. Manual agencies are one agent away from product margins.

20. if AI can replicate $500K software for $20/month, what’s your moat? distribution, customer service, brand, data etc. REALLY good time to be a world class designer/marketer.

(and even more.... but this is getting long already!)

We've entered the rarest of windows...

when multiple technological shifts collide at once, creating a brief period where small teams can build things that were previously impossible.

THE FUTURE OF BUILDING STARTUPS IS DIFFERENT.

I know this...

This unique moment won't last forever. Markets will adapt. Giants will respond. The window will close.

But right now, a founder with clear vision and bias for action can build more in six months than was previously possible in years.

(note: if you need an idea to get creative juices flowing, grab one at @ideabrowser)

The next generation of great companies is being created right now, many by founders you've never heard of.

Some by people who would never have had a shot in previous cycles.

That's the beauty of these rare windows. The playing field briefly levels, and the future belongs to those who see it clearly and move first.

It's a sacred time, don't bookmark/share this, build something in 2026, will ya?

Happy building, my friends. 2026 is yours.

Am I wrong?

[Philip @PhilipPing1]

@mikefutia Banana

[Philip @PhilipPing1]

@qiuhongbingo 下载玩玩

[Philip @PhilipPing1]

AI Agents in 2025: From experimental to ESSENTIAL! Businesses are embracing autonomous, problem-solving agents for workflow automation and hyper-personalization. Get ready for the agentic AI revolution! #AIAgents #AgenticAI #Automation #AI #FutureofWork

[Philip @PhilipPing1]

@0xShellywang @cz_binance @DanaBuidl interesting

[冰蛙 @Ice_Frog666666]

《实锤币安操控治理投票：警告，这将是一场比任何黑客攻击更危险的链上政变》

2025年4月8日，币安用一场近乎明牌的链上政变，向整个行业宣告：在资本的铁拳下，DeFi的治理机制根本不堪一击。

当币安不再扮演“行业推动者”，而是赤裸裸地撕开伪装，出手干预治理时，它杀死的绝不仅仅是一个项目，而是对Web3未来的全部信心与信任。

这是一次治理攻击，更是一次理想的绞杀。

这是一场“由中心化巨头亲自摧毁去中心化信仰”的历史级讽刺。

_________

一、基本事实：一份“改革提案”引发的系统性清洗

2025年4月8日，PancakeSwap 发布“CAKE代币经济学3.0”提案，核心内容：

-废除 veCAKE 锁仓与投票机制；
-Emission 分配由团队统一掌控；
-所有治理权力将回归中心团队手中。

在宣传中，这被包装为“简化、通缩、优化”，但实质上却是一份针对 ve 模型的清算掩护。

最直接的受害者，是Cakepie——一个通过锁仓1280万枚CAKE换取治理权、为社区用户争取收益、与PancakeSwap形成制衡力量的社区DAO。

而这份提案的背后，操盘手也赫然浮出水面。

_________

二、链上证据：币安的清算地址主导了投票

提案前夕，一个原本已“退休”的链上巨鲸地址突然“复活”：

地址：0xd183f2bbf8b28d9fec8367cb06fe72b88778c86b

这个地址是币安在2022年BNB桥攻击后用于接管黑客资金的清算地址。

随后：

1⃣突然锁仓 2,500 万枚CAKE，铸造为 veCAKE，成为投票第一大户；

2⃣主导支持提案，通过后可立即解锁，不承担任何锁仓成本；

3⃣实现一次 “零成本夺权、一次性收割”的治理闪电战。

与此同时，Cakepie被直接清空治理地位，数千万美元的社区价值体系一夜之间归零。

如果这不是操控，那什么才是？

_________

三、是否是币安操控？链上逻辑闭环已给出答案

这是否是币安在操控？我们逐条拆解：

1⃣资金量巨大：2500万CAKE+3600万美元稳定币，非散户所能为；

2⃣地址背景明确：币安2022年用于黑产接管的钱包，，由BNB Chain团队提出治理提案赋予其白名单权限，币安为其注资数千万美元用于清算操作，本质上，这是一个币安和BNB官方共同控制的操作地址。

3⃣操作时间精准：在提案前锁仓，提案通过后立即解锁；

4⃣利益收割清晰：废除veCAKE后，Emission回归官方与关联方；众所周知，Pancake是BSC上最大的DEX，也是币安钱包各类打新活动的独家伙伴，更是币安独家投资的项目。

5⃣长期受益者受害：Cakepie等社区DAO失去所有话语权，用户利益被清零。

这一切指向的，不只是“幕后”，而是“幕前”。这是币安直接出手，在链上发动的政变。

_________

四、治理攻击背后的资本逻辑：谁不是自己人，谁就得被清算

这场行动并不复杂，它的本质逻辑只有一句话：谁控制Emission，谁就控制权力；谁威胁权力，就必须被处理。

当Cakepie通过DAO模式控制了veCAKE的一半以上，开始具备影响PancakeSwap激励方向、分配机制、治理投票结果的能力时，它就成了币安眼中“不可容忍”的变量。

更何况：

1⃣veCAKE带来的贿选收益，流入了Cakepie、Magpie等社区项目，而非币安自身；

2⃣ve机制的长期锁仓，导致币安持有的用户CAKE难以用于治理，权力旁落；

3⃣PancakeSwap作为BSC生态的绝对核心DEX，是币安DeFi版图中最关键的一环，任何非嫡系力量的渗透都构成战略风险。

所以，它必须被清算。不是因为它做错了什么，而是因为它做得太好了，威胁到了权力中心。

这不是改革，这是权力的回收。币安亲自下场，用一次“投票废除投票”的方式终结治理本身。

牛逼到令人不寒而栗！

_________

五、启示与控诉：这是一次对去中心化信仰的公开羞辱

Cakepie失去的是数字和权益，整个DeFi社区失去的，是制度和信心。

1280万veCAKE一夜作废；
数千万美元锁仓瞬间归零；
CKP治理代币模型坍塌，社区收益模型破产；
用户参与DAO治理的价值感被彻底践踏；
所有构建在协议治理基础上的“协作信任”，成了幻觉。

今天是Cakepie，明天可能是BSC上任何一个社区项目、任何一个DAO、任何一个锁仓用户。

只要治理系统允许鲸鱼“闪电锁仓 + 投完即退”，那么整个去中心化金融的命运，永远在那一只看不见的中心化钱包手中。

这一次，没有代码漏洞，没有私钥泄露，没有外部攻击。

但它比任何黑客攻击都更危险：因为它发生在规则之内，打着“治理”之名，却行“清洗”之实。

_________

六、质问与警示：擅刀者终究死于刀下，清算者必被清算

我们必须质问币安：

你曾宣称“去中心化是未来”，如今你却亲手用集中权力摧毁它？

你曾说“Web3是开放、自由、平等的”，如今你不惜动用接管的黑客钱包宣布：只有我能决定谁配拥有权力？

你到底是想改变金融体系，还是成为你曾誓言推翻的“绝对中心”？难不成，我们都要跪着接受币安帝国的统治？

你是不是因为Web3没有监管，就可以无视底线、践踏协议，搞一场链上的权力清洗？

去中心化不是挂在白皮书里的口号。它是一种秩序，一种承诺，如今，你却亲手，用暴力的手段撕毁了它。

我最后想说的是，历史无数次告诉我们，擅刀者终究死于刀下，清算者必被清算。他们不会死于敌人，而是倒在自己篡改规则、背叛信任、践踏共识的那一天—刀从未离手，但终究指向自己。 @heyibinance @cz_binance

[Philip @PhilipPing1]

@0x01yuqi @hyphilip

[Footprint Analytics @Footprint_Data]

📊 Just released: "Blockchain Landscape 2024: From Infrastructure Competition to Application Innovation"

2024 marked the industry's shift from technological experimentation to real-world utility.

Dive into the 2024 Annual Report for #blockchains now🔗
https://t.co/tIkYuST7YF

[Philip @PhilipPing1]

Requesting $ETH funds from the #Stakely Faucet on the Arbitrum blockchain. Request ID: 8LWV4YVU https://t.co/HzwEICXBzr

[Philip @PhilipPing1]

@Footprint_Data @PebblePlay That's awesome!

[Footprint Analytics @Footprint_Data]

Introducing our collaboration with Pebble!🚀

Backed by NHN Corporation, @PebblePlay is a Web3 gaming platform and focuses on delivering high-quality, enjoyable games complemented by robust and user-friendly Web3 services. 🎮⛓️

How has Footprint supported Pebble to capitalize on market opportunities, a critical advantage given the frequent delays faced by many competitors?📊📈

Discover the details 👇
1/7🧵🔗
https://t.co/nJOhFFQMCI