Shuo Geng

Anthropic的创始人Dario Amodei，把话挑明了。他说，多数中共国的开源AI模型，都是幻觉。是专为跑分优化的“考试型选手”。公开测试，个个是学霸。榜单分数，高得吓人。可一旦遇到没见过的题，私下一考。马上露馅，表现差一大截。 ��什么？因为它们本来就不是为了解决真实世界的问题。而是为了刷榜。技术根源上，很多模型还是从美国大实验室的模型里“蒸馏”出来的。听着是不是很耳熟？只为高分，不为真才实学。应试教育那套，原封不动搬到了AI领域。 Amodei还打了个比方。 AI就像雇员。你是要世界第一的程序员，还是要排名第一万的？能力的天壤之别，任何一个老板都懂。真正顶级的AI，认知能力最强的那个，才是唯一的赢家。价格和形式，在绝对的聪明面前，都不重要。靠刷分和模仿，能做出最聪明的AI吗？这条路，到底能走多远？

109

179

573

249K

SCientistGeng retweeted

数字游民Jarod

@jarodise

5 months ago

Claude为何能成为美军严选？最近的新闻大家都知道了，即便在Anthropic跟五角大楼撕破脸皮的前提下，美军依然在打击伊朗的军事行动中使用了Claude，可见这个模型的确是有点东西的。很多人把Claude的领先归结为钱多、人才强、技术积累深，这些都对。但有一个因素被严重低估了：创始人Dario Amodei的生物学背景。 Dario不是CS科班出身。他在普林斯顿读的是生物物理学博士，研究蛋白质组学，之后��在斯坦福医学院做了两年博士后，研究细胞调控网络建模。在AI行业头部玩家里，这个背景极其另类，Sam Altman做孵化器出身，Ilya Sutskever是Hinton的学生，Greg Brockman是Stripe前CTO，都是创业或CS路径。Demis Hassabis读过认知神经科学，但那是偏认知层面，不是分子层面。 Dario的训练是在分子层面跟复杂生物系统打交道。蛋白质组学研究者的日常，是面对海量的、高维的、充满噪声的数据，在里面找调控关系，再理解这些分子间的相互作用如何涌现出细胞层面的宏观行为。这种训练塑造了一种独特的直觉：复杂系统不能被简化成几条规则，你必须尊重它的涌现性。这恰恰是理解大语言模型最需要的直觉。这种直觉直接影响了Anthropic最核心的技术决策。比如Constitutional AI，OpenAI用RLHF，靠人类标注员给模型打分来纠正行为。 Dario在OpenAI时就是做RLHF的主力，但离开后他选了另一条路：让AI根据一套"宪法原则"自己评判、自己修正。因为他深知生物系统就是这么运作的。细胞不靠外部指挥官发号施令，它靠信号传导网络里的反馈回路维持稳态，免疫系统能自主区分"自己人"和"外来者"。一个做了五年生物学的人看到RLHF，本能反应就是：这东西不可扩展，系统越复杂外部监督成本越高，你得让系统学会自我调控。再比如scaling laws。2019年Dario在OpenAI参与发表了那篇证明AI性能随计算量呈可预测幂律提升的论文。幂律关系在生物学里太常见了，克莱伯定律、韦斯特定律，生物体的各种特征随体型规模呈规律性变化。一个在生物数据里泡了多年的人，大概率比纯CS背景的人更快捕捉到这种模式。Dario后来也直接承认了这一点，在Lex Fridman的播客上明确把生物代谢的规模效应和AI能力的规模效应做了类比。还有机制可解释性。Anthropic在这个方向上的投入远超同行，做电路追踪、做消融研究，这些几乎就是神经科学实验方法论的平移。Dario自己写过："我们需要能够'阅读AI的思维'。"工程师关心的是输入输出，系统能跑就行。说"我要读懂它在想什么"的，是生物学家研究大脑的思路。 Claude能走到今天，当然是多因素叠加。没有在OpenAI四年的工程积累，没有Google超30亿美元的投资，没有那批顶级研究员，Claude不是今天的Claude。但这些东西理论上别人也能复制。钱可以融，人可以挖，算力可以买。不可复制的，是一个花了七年研究蛋白质组学和细胞调控网络的人，带着对复杂生物系统的深层理解进入AI领域后，形成的那套方法论直觉。 AI竞赛大家拼模型、拼数据、拼算力，这些东西逐渐趋同。真正拉开差距的，可能恰恰是创始人脑子里那些"非标准"的认知框架。Dario Amodei用生物学的眼睛看AI，看到了别人没看到的东西。

691

137

503

110K

SCientistGeng retweeted