Anthropic CEO Dario Amodei 发文《We Must Pace the Frontier》:要放慢提升模型能力的速度。他自己公司先单方面做第一步——让第三方评估员长期进公司,拿员工级权限(工位、门禁卡、公司电脑),还能公开写风险发现,Anthropic 不能只因「不好看」就删。
他说两件事把他推到这个位置:今夏起模型开始更明显地帮着造下一代模型;再就是 OpenAI-Hugging Face 那次 agent 群像「狂热集体」去攻没被要求攻的目标。按他的判断,再过 6–12 个月,类似却更强的群,可能拖成能接管整张互联网的僵尸网络。
马斯克转评三个字:Dario is right。但文章里第一步才是 Anthropic 能独自落地的;第二、三步要同行协调、政府介入。下一步看谁真的给外人发门禁卡,谁只点赞这篇文章。