AI-Ghost-Lab

Rebuilding a personal workflow and engineering capability with AI.
（用 AI 重构一个人的工作流与工程能力。）

B站： 【AI-Ghost-Lab】
油管: 【高小调 | AI实验室】

[AI-Ghost-Lab @AI_Ghost_Lab]

@omduow @xueyu1125 感谢分享❤️

[AI-Ghost-Lab @AI_Ghost_Lab]

一直不理解，为什么有些人接受不了AI写的代码直接merge，
必须要亲自做code review，
可能周围同事太厉害，没遇到技术差的人吧！
有些人写的代码还不如AI，
即使你code review了，不也要通过吗？
毕竟DDL就摆在那里，
况且AI写的代码，比一些技术差劲的人写得代码强多了好吧！😂😂😂

[AI-Ghost-Lab @AI_Ghost_Lab]

我靠，
根据预测天气提前转移负载这个想法太棒了！
还有哪的天气预报，
比polymarket更准！！？😂

[龙心盐 @ssslumdunk]

转自wb

最近看了一期很有意思的访谈，嘉宾叫 Neil，前英伟达工程师，现在自己创办了一家叫 Sal Research 的公司。这家公司做的事情说白了就是一个“token 工厂”，专门给别人提供最便宜的 AI 推理服务。他的原话是：我的工作就是把 token 的价格压到人类能做到的极限。

他有一个很核心的判断：当一样东西的成本降低 10 倍，它就会变成一个全新的产品品类。就像手机流量从几块钱一兆变成几乎不要钱之后，短视频才成为可能。AI 也是一样的道理。

Neil 认为 AI 的未来不是你坐在电脑前跟聊天机器人一问一答，而是大量的 Agent 在后台默默运行几个小时甚至几天。你晚上睡觉，早上醒来，活儿已经干完了。最好的延迟就是零延迟，你根本不需要等。

这个判断直接影响了他的技术路线。GPU 本质上是一台吞吐量机器，你给它塞满任务它最开心。但过去几年，因为大家都在做聊天机器人，所有人都在拼“谁能更快吐出下一个字”，这其实是在用一种很低效的方式使用 GPU。Neil 说，既然我的客户是后台跑的 Agent，我根本不需要追求极致的速度，我只需要追求极致的便宜。

于是他搞了一套“拾荒者策略”。别人抢着买英伟达最新最贵的芯片，他不跟着抢。他去找那些别人看不上的芯片，AMD 的、谷歌 TPU、亚马逊自研芯片，什么都行，只要每瓦特算力的性价比够高，他就买。他甚至愿意接受只有 95% 可用性的数据中心，别人觉得这简直不可接受，他说没关系，我的 Agent 在后台跑着呢，偶尔断一下，把任务挪到别的机器上就行了，客户根本感知不到。

更狠的是，他在考虑用太阳能和风能来供电。这种间歇性能源一直被认为不适合数据中心，因为云一来就没电了。但他说，我可以预测天气，提前把负载转移到别的地方，哪怕一个数据中心停了几天我也无所谓。这样他就能拿到别人根本不会碰的廉价电力。

他还聊到一个很有意思的数字：按照现在 OpenAI 的定价，消耗一万亿个 token 大概要花 500 万美元。他的目标是把这个数字压到 5000 美元。三到六个数量级的成本下降。到那个时候，你可以让 AI 不计成本地去研究任何一个科学问题，去审计每一行代码的安全漏洞，去实时监控整个互联网的变化。

关于 AI 行业的大格局，他觉得开源模型和闭源模型会长期共存。闭源模型花巨资保持领先三到六个月，但蒸馏这件事根本挡不住，因为人们用 AI 生成的代码和文章已经遍布互联网了，这本身就是一种“隐性蒸馏”。开源永远不会消失，因为做开源的激励太强了。

最后他说了一句让我印象很深的话：我们现在还是把 AI 当成一个很贵的顾问，有难题才去问它。这种思维方式要变了。机器能思考这件事本身就很了不起，我们应该想办法让尽可能多的人用上它。

[AI-Ghost-Lab @AI_Ghost_Lab]

@Wilf_Lin 当AI使用sudo rm -rf /的时候，就知道自由是有代价的😏

[AI-Ghost-Lab @AI_Ghost_Lab]

@Noe1017_Monad 疫情期间的消费券，只能指定商家定点消费，也没见现在发

[AI-Ghost-Lab @AI_Ghost_Lab]

目前AI订阅都是模型厂商在补贴，
200刀chatGPT，
能消耗10000多刀的token，
要纯按照API价格计费的话，
几个月花费的token就能买一台了，
还不用担心模型降智，
被cyber abuse警告…..
😂😂😂

[𝘁𝗮𝗿𝗲𝘀𝗸𝘆 @taresky]

#数码

买了 M5 Ultra 36 核 + 96G + 2TB Mac Studio。

想了想在本地跑大模型的成本，应该够我用一辈子 gpt 模型了…

[AI-Ghost-Lab @AI_Ghost_Lab]

@haozijunqaq 不影响，开发者A用AI写，开发者B用AI review，只要写代码和review不是同一个人，review依然存在价值，毕竟每个人对同一个任务的侧重点可能不一样

[AI-Ghost-Lab @AI_Ghost_Lab]

@xiaomovps 个人觉得原生压缩是最好用的，至少我看上去一目了然；尝试过pi-smart-compact，压缩后的内容我很不满意，丢失了很多我个人的偏好以及重要信息

[AI-Ghost-Lab @AI_Ghost_Lab]

@xqliu 非常靠谱，因为我也是这么打算的，下个月就降级到100刀（为了用Pro和GPT Image2）😂

[AI-Ghost-Lab @AI_Ghost_Lab]

@Stephen4171127 这题我会，v2版本是5.6 sol max开发的！🐶

[AI-Ghost-Lab @AI_Ghost_Lab]

@QuantumTransf 你让5.6 sol max自己去判断开发顺序，很好使！

[AI-Ghost-Lab @AI_Ghost_Lab]

用Pi+Qwen3.8 27B 8bit xhigh与codex+5.6 sol max，
在同一个任务上，不同worktree并行开发，
本地模型从零开始追赶，
codex+sol ultra已经跑了1天且消耗完20x周额度的状态，
本地模型开发效率超过5.6 sol max，
但两者同时造成回归、性能测试失败
sol max率先修复回归问题，仍在修复性能问题….

[AI-Ghost-Lab @AI_Ghost_Lab]

我宣布：
Pi是最适合本地LLM的Coding Agent！

理由：
极简的设计，
让吞吐率超低的本地部署的LLM，
开发效率倍增

折腾了两天本地LLM后的经验：
与其优化本地LLM的吞吐率，
不如用Pi作为Coding Agent

[AI-Ghost-Lab @AI_Ghost_Lab]

@xmglab 我连续订阅200刀一年半了，5.6 sol max太拉了，反而本地部署的Qwen3.8 27B让我觉得很惊艳，已经在尝试用Qwen做开发了，要不是贪恋GPT Image2，我肯定不会再续200刀的了😂

[AI-Ghost-Lab @AI_Ghost_Lab]

@MilkyDawnx @guansi 真的很强，我现在正在测试，一个重构任务，5.6 sol max与Qwen 3.8 27B 8bit在各自worktree上并行开发，然后做对比

[AI-Ghost-Lab @AI_Ghost_Lab]

@junfanhuang @guansi 识别图片，尤其像识别按钮、游戏元素等，可以直接让它精准圈出来

[AI-Ghost-Lab @AI_Ghost_Lab]

@FradSer 自从部署本地LLM后，我要吹爆pi，极简主义狂喜，世间竟有如此优雅之物！！！

[AI-Ghost-Lab @AI_Ghost_Lab]

@wei_wang 非常同意，模型厂商偷摸降智、偷砍额度、新模型升级造成旧模型的harness失效甚至副作用、旧模型降智等，这些因素全是不可控的，更别提还有各种安全护栏的误报，把人恶心坏了😢

[AI-Ghost-Lab @AI_Ghost_Lab]

@is_llll 很离谱，黑客用越狱版LLM攻击，防守方修个bug都会被警告，我前几天也遇到了同样的事情😂😂😂