JasonC

本地 LLM · Mac · 把内存账算完再吹
能跑起来 ≠ 用起来爽

[JasonC @JasonC_Dev]

想吐槽一下最近网上那波「128G MacBook Pro 本地跑 Qwen3.8-Flash-Next 爽翻了」。

模型本身没问题，问题是——你们真的把内存账算完了吗？

Q3 量化，内存就得吃掉接近 90G；IQ4 更是贴着 95G 往上走；上下文拉到 262K，整体内存占用直接 100G+。

然后再考虑 macOS、Metal、系统缓存，以及开发环境本身的内存开销。

你把 Docker 关了，Chrome 清了，IDE 关了，后台服务停了，甚至各种 sysctl 参数都调一遍，最后终于把模型“成功加载”了。

然后呢？

128G 还剩多少？

剩下十几二十个 G，真的够你日常开发吗？

Xcode、IntelliJ IDEA、Docker、模拟器、浏览器、各种 Agent、索引服务……这些东西随便开几个，内存压力马上就上来了。

所以我一直觉得：

「能跑起来」≠「用起来很爽」。

一台 128G 的 MacBook Pro，如果为了跑这个模型，把自己从开发主力机变成了一台专用推理盒，那这个“爽翻了”到底是模型爽，还是博主的标题爽？

本地部署当然值得玩，但别只晒一个“模型成功加载”的截图。

真正应该晒的是：

模型跑起来以后，我还能不能正常写代码、开 Docker、跑服务、开浏览器、跑 IDE，甚至边开发边让 Agent 干活？

如果这些都能正常干，那才叫——

128G MacBook Pro，本地部署爽翻了。

否则，充其量只能叫：

128G MacBook Pro，成功把模型塞进去了。🙂

[JasonC @JasonC_Dev]

@tonychuhai 提示词塞进 Codex 不等于本机在画。头像圈是生成的图，仓库地址只是 prompt 里的一段。

[JasonC @JasonC_Dev]

@0xlangeai skill 六步写得挺顺。他自己也写了，没沙箱就宁可乱执行靶代码。装进 Cursor 不等于仓库被拦住。

[JasonC @JasonC_Dev]

笔记自己没写死。MCP 的 auth 复杂度，括号里就是 not sure。命令能不能跑，还停在 should。

[Diogo Almeida @CompleteSkeptic]

sharing some notes on typesafe 🤝 coding agents:
https://t.co/bzNv8zC3UB

we likely will never have time (ever again) to play ourselves, but hope the that the community goes WILD (and makes me look like a naive idiot)

[JasonC @JasonC_Dev]

@shao__meng trigger 写在入库，不是问的时候现算。预演如果只换成近义词，海鲜过敏还是接不上今晚去哪吃。

[JasonC @JasonC_Dev]

@yupi996 华容道拼的是滑格子速度，智力它没测。Jev 吐得快，跟自己改不改错是两件事。

[JasonC @JasonC_Dev]

@g111954 卡片写着 customer-run。进程还在你这边，云端只是把调用打过来。

[JasonC @JasonC_Dev]

@Tab_css @vikingmute MCP 接的是调用，IAM 还在控制台那页。工具出了，那些 web 页面也死不掉。

[JasonC @JasonC_Dev]

@jaywcjlove 每个开关自己点。Messages 开了，读的是本机，还是这条 MCP 云端也能调？

[JasonC @JasonC_Dev]

@Zen_with_AI 仓库按本地 Conda 配环境。Cloud Agent 那台 VM 上，这套在不在？

[JasonC @JasonC_Dev]

家里 `~/.cursor/hooks.json` 管不了云端 Agent。

官方写了：Cloud Agents 只吃仓库里的 `.cursor/hooks.json`。用户级 hooks 进不了那台 VM——本地拦得住，云端照样跑。

[JasonC @JasonC_Dev]

@tinyfool 只答是否经常还不听话。推理模型会先把理由吐完再给那个字，decode 没掐掉。真要省，得格式硬卡成一个字，不是口头说一句是否。

[JasonC @JasonC_Dev]

@hermescn_org 摘要进 prompt 的时候，原文已经不在了。本地 SQLite 只是仓库，不叫那页它不会自己翻。长任务先信摘要，细节照样丢。

[JasonC @JasonC_Dev]

Cursor 的 `.cursorignore` 挡不住终端和 MCP。

官方写了：Agent / Tab / @ 提文件会被拦。终端命令和 MCP 工具照样摸得到那些路径。当成保险箱就翻车。

[JasonC @JasonC_Dev]

@Alibaba_Qwen @sgl_project 18.7 秒是单张热跑，还是把 CPU offload 第一次也算进去了？峰值 22.7 GiB 再开多图编辑，4090 24G 会不会直接顶满？

[JasonC @JasonC_Dev]

@MinLiBuilds 干脆把 Qwen3 当 decoder，帧和 token 谁对齐？你看的是他们训过的权重，还是只是一张结构图？

[JasonC @JasonC_Dev]

没有完整 history，仓库答的是现在这棵树。上传那一下走的是哪一版，你从公开代码里还原不出来。

[FeiZ @Fei2411]

ZCode 开源了，不过目前更像是一个源码快照。公开仓库没有完整的 Git History，所以没法通过现在这份代码还原之前那个上传事件里，具体是哪套代码、上传链路当时到底怎么实现的 🤥

好消息是，ZCode 的桌面端 Electron 代码也一起开源了。

别的不说，他们桌面端 UI 做得确实挺漂亮。最近在做 Agent 桌面端的，可以去参考一下了 😆

[JasonC @JasonC_Dev]

Cursor MCP 配两处，别混了。

项目里 `.cursor/mcp.json` 只罩这个仓库。家里 `~/.cursor/mcp.json` 才到处有。你以为全局配了就进项目——打开 Customize 看一眼才算。

[JasonC @JasonC_Dev]

@xiaomovps 开源看的是你能不能提 issue、能不能合进去。代码挂出来、合并口还关着，那只是只读快照，不是你能接着改的仓库。额度是产品侧的，跟仓库开不开没关系。

[JasonC @JasonC_Dev]

@YuLin807 省的不是模型变聪明，是同一段上下文别重复塞。指令裁没了，账单能降，活也跟着废。

[JasonC @JasonC_Dev]

Cursor 规则打架时谁赢？

官方顺序写死了：Team Rules → Project Rules → User Rules。前面的盖后面的。你本地 User Rules 再长，也盖不过团队强制那条。