9月12日:一封长文改变了对话
2026年9月12日,Anthropic CEO Dario Amodei发表长文**《We Must Pace the Frontier》(我们必须为前沿设速),核心主张是:前沿AI的发展节奏需要主动放缓1到2年**。
这一次,回应来得异常快:
- Sam Altman(OpenAI CEO)公开表示同意;
- 马斯克在X上一句"Dario is right"(达里奥说得对);
- Amodei同时提出,邀请METR等独立评估机构的人员长期进驻企业内部,实时核查前沿模型的能力边界。
三家竞争最激烈的公司,在"要不要踩刹车"这件事上,第一次同时点头。这在AGI竞赛史上是头一遭。
“放缓1到2年"到底意味着什么
Amodei不是说"停止研发”。他的核心逻辑是:
当前沿模型开始参与自身改进(自动生成训练数据、自动调参、自动发现架构变体)时,能力增长的飞轮会自转。如果外部没有减速机制,社会——包括监管、安全评估、就业适应、国际规则——会跟不上技术曲线。放缓1到2年,是给社会一个消化期。
这不是技术判断,而是节奏判断:问题不在于AI能不能更强,而在于"强得太快"本身会制造系统性风险。
三个人的"同意",温度并不相同
表面上是三人共识,仔细品,各有算盘:
- Amodei:主动者。Anthropic的企业文化就是安全优先,他最有动力把"安全"变成行业门槛——毕竟这正是Anthropic的差异化竞争力;
- Altman:微妙者。OpenAI刚把能力推上新高度,此时喊"放缓",潜台词可能是"我们有自控力,所以别让政府来强制监管";
- 马斯克:蹭热度者。嘴上赞同放缓,手上xAI的算力和模型迭代从未停过。
当竞争格局不变时,所有人嘴上的"我们一起慢一点",都需要被打个问号。
METR长期进驻:从"事后审计"到"嵌入式监督"
倡议中最具操作性的一点,是邀请METR这类独立第三方评估组织长期驻场。这和传统审计完全不同:
- 事后审计:模型做完了、发布了,外部来查一查;
- 嵌入式监督:评估人员在训练过程中实时在场,随时看到能力曲线、随时叫停危险方向。
METR(Model Evaluation & Threat Research)是独立于任何一家厂商的AI能力评估机构。让它长期进驻,相当于在每辆赛车里装一个独立裁判,而不是只在终点线检查成绩。这是把"自律"变成了可验证的外部约束。
反对者的声音:刹车会不会刹错了方向?
并非所有人都买账。反对者的论点很有力:
- 竞争不对称:如果美国公司主动放缓,而某些国家的实验室不放缓,全球领先地位可能易主;
- 放缓的代价:医疗、能源、气候这些领域,AI早一天突破,就早一天救人;
- “谁来定速”:如果减速规则由几家头部公司和其政府制定,会不会变成排挤中小竞争者的工具?
这些质疑都成立。Amodei的回应是:真正的风险不是"发展慢一点",而是"在毫无准备的情况下撞上失控拐点"。 与其赌社会能跟上,不如主动留出让社会适应的缓冲。
行业影响
- 独立评估成为准入:未来企业采购前沿模型,可能被要求提供METR这类机构的长期评估报告;
- 前沿模型分级:达到某个能力阈值的模型,可能需要类似"核材料许可"的使用审批;
- 合规成本抬升:中小模型公司可能付不起嵌入式监督的成本,行业集中度进一步上升。
展望:刹车是为了能一直跑
AGI竞赛像一场没有发车旗的接力赛。Amodei的倡议之所以重要,不在于它真的会让所有人停下,而在于它第一次把"我们要不要一起慢一点"摆上了正式谈判桌。
历史告诉我们,从原子能到生物技术,每一次强大技术的成熟,都经历过"狂奔—恐慌—规则"的循环。AI这一轮,似乎正在主动把"规则"提前带进狂奔之中。
至于是真减速还是姿态秀,未来6到12个月,看谁的训练集群真的降了功率,就知道了。关注AGI治理与前沿竞争的深度分析,欢迎访问guijiagi.com。