Blake｜本地 AI / 省钱部署

本地 AI 怎么装、怎么省钱｜写给个人开发者
不荐股、不聊政治

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@SoloStack0 30B 这档日常问答、改写、简单写写代码够用了，长链路 agent 和难推理还是比不过云上头部。
你打算拿它干啥？用途定了再看配多大内存/显存更准

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@calliwinwin 同意不用为了追本地模型硬上高配。不过手上已经有 Mac 的，先跑起来不亏：私密资料和批量杂活放本地，难题交给前沿模型。先跑通，再决定要不要加钱。

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

苹果自己的机器人论文，大脑放的是一台 Mac mini。

HALO 这套：Unitree G1 背着 M4 Pro 64GB，任务规划用 Qwen3.6-35B-A3B 4bit（MLX），断网也能跑；要更强的推理时，才可选走云端 API。

本地常驻兜底，云端啃难题。这个分工，个人项目也能直接抄。

论文：https://t.co/XVOqMSR4iK

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

本地模型出字慢，先别急着怪算力。

生成每个新 token，基本都要把整套权重从内存里读一遍。所以出字速度的上限，大概就是「内存带宽 ÷ 模型体积」。

这也是为什么 4bit 量化不只是省内存，出字也会变快；MoE 只读激活的那部分，同体积也跑得更快。

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@IsaiahSrc @grok Not late at all. Install Ollama or LM Studio, pull a small Qwen that fits your RAM, and use it for a few days. Figure out what you'd actually use it for before chasing the big ones. What machine are you on?

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@elonmusk 我他妈笑死

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

Qwen 4 还没发，传闻里有个 27B 开放权重版本，就是冲着本地部署去的。

我的想法是现在先别急着买卡。拿手上的机器把现有 27B 级别的量化版跑起来，看看自己的工作流到底卡在显存、速度还是上下文。真发了，换个模型文件就行。

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@yaojingang @gefei55 收到谢谢姚老师

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@vasilievasilisa 一起吃个饭

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@777iiikk 牛逼

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@mrtbrgl hello

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@rainwaterJay 额度不够先别急着换平台。OpenMausBot 这类自托管能控成本，但得自己扛模型��更新和故障。

你更缺的是「省额度」，还是「数据别出本机」？

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@Quillan_Ronin If the goal is cheap + always-on, I'd start with a Mac mini: quieter, lower power, Ollama/MLX is enough to prove the loop. GPU box later only when model size actually forces it. What's your main workload—coding agent, or lighter chat/tools?

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@cz_binance @Supers6061 @heyibinance 心疼��

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@elonmusk 爱我你就给我抽��特斯拉

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@wy_ones 真就是这��事啊

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

百度这次定价，多少像记仇。

10 月 17 日，DeepSeek 开放搜索 API，5 元/千次，11 月 1 日起收费。

10 月 30 日，百度突然把搜索 API 降到 4.9 元/千次。

就便宜一毛。时间还卡得这么死。

卷价格有啥意思？被 DeepSeek 搞魔怔了？

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

@btc5767 太对了哥

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

史上最强阵容已经出现在Changpt了，不敢想Changpt新模型有多好用

这简直是太离谱了！！！！！

在 OpenAI 无法推出 Opus 5.5 的竞争产品后，他们开始针对那些帮助构建 Anthropic 最大 AI 产品的人下手。

Cat Wu 在 Anthropic 领导了 Claude Code 和 Cowork 的开发。

她在短暂加入 Cursor 后回到了 Anthropic。现在她转到 OpenAI，负责核心产品的产品管理。

这意味着什么。

她有第一手经验构建的产品，现在正直接与 OpenAI 竞争。

而现在，她将帮助塑造 OpenAI 自己的产品战略。

你想一下，将 Claude Code 和 Cowork 背后的经验教训、产品决策和经验，直接带入 Anthropic 的最大竞争对手之一。

OpenAI 不仅仅是在招聘一位产品经理，而是直接拿 Anthropic 内部策略手册的经验。

这简直了！！！！

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

【MuseAI 邀请兑换助手】
注册就送额度，邀请 1 个人再送 2 次
每天签到领额度：首次 +2 次，之后每连签 3 天 +1 次

👉 https://t.co/rUrKB1toVs

[Blake｜本地 AI / 省钱部署 @BlakeYueng]

MUSE 邀请码还没满的看过来

310亿token 快速毕业

评论区留下你的邀请码
私信我进群，每天抽 muse token