Google 刚刚发布了 TurboQuant —— 一个革命性的新算法。
它的作用是:在几乎不损失质量的前提下,让大语言模型(LLM)变得更小、更快。
这意味着什么?
即使是只有 16GB 内存的 Mac Mini,现在也能在本地完整运行那些极其强大的 AI 模型了! 而且是完全离线、免费、安全地运行。
这项技术还将带来以下重大改变:
上下文窗口大幅扩大:以前长上下文会严重变慢和掉质量,现在 slowdown 和退化大幅减少;
手机也能跑高质量 AI:未来高端手机将可以本地运行顶级 AI 模型;
速度和质量同时提升,价格却会下降。
那些以前嘲笑你买 Mac Mini 的人,现在脸都要肿了。
Google 这次把 TurboQuant 完全开源,没有自己独占。这一点尤其值得称赞——很多大 AI 实验室很可能都会把这种技术藏起来当核心竞争力,而 Google 选择把它公开,推动全人类 AI 技术共同进步。
Man City are working hard on Gvardiol deal, very advanced on player side but not yet on clubs side. 🔵 #MCFC
Talks will follow next week, story called in the morning confirmed ⤵️