<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>METR on AI 实战派 · 从技术到赚钱</title><link>https://guijiagi.com/tags/metr/</link><description>Recent content in METR on AI 实战派 · 从技术到赚钱</description><generator>Hugo</generator><language>zh-cn</language><copyright>本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权</copyright><lastBuildDate>Mon, 14 Sep 2026 10:00:00 +0800</lastBuildDate><atom:link href="https://guijiagi.com/tags/metr/index.xml" rel="self" type="application/rss+xml"/><item><title>Amodei与Altman的放缓倡议：AGI竞赛需要刹车吗</title><link>https://guijiagi.com/posts/amodei-altman-pace-frontier-agi-brake/</link><pubDate>Mon, 14 Sep 2026 10:00:00 +0800</pubDate><guid>https://guijiagi.com/posts/amodei-altman-pace-frontier-agi-brake/</guid><description>&lt;h2 id="9月12日一封长文改变了对话">9月12日：一封长文改变了对话&lt;/h2>
&lt;p>2026年9月12日，Anthropic CEO &lt;strong>Dario Amodei&lt;/strong>发表长文**《We Must Pace the Frontier》&lt;strong>（我们必须为前沿设速），核心主张是：前沿AI的发展节奏需要主动放缓&lt;/strong>1到2年**。&lt;/p>
&lt;p>这一次，回应来得异常快：&lt;/p>
&lt;ul>
&lt;li>&lt;strong>Sam Altman&lt;/strong>（OpenAI CEO）公开表示同意；&lt;/li>
&lt;li>&lt;strong>马斯克&lt;/strong>在X上一句&amp;quot;Dario is right&amp;quot;（达里奥说得对）；&lt;/li>
&lt;li>Amodei同时提出，邀请&lt;strong>METR&lt;/strong>等独立评估机构的人员&lt;strong>长期进驻&lt;/strong>企业内部，实时核查前沿模型的能力边界。&lt;/li>
&lt;/ul>
&lt;p>三家竞争最激烈的公司，在&amp;quot;要不要踩刹车&amp;quot;这件事上，第一次同时点头。这在AGI竞赛史上是头一遭。&lt;/p>
&lt;h2 id="放缓1到2年到底意味着什么">&amp;ldquo;放缓1到2年&amp;quot;到底意味着什么&lt;/h2>
&lt;p>Amodei不是说&amp;quot;停止研发&amp;rdquo;。他的核心逻辑是：&lt;/p>
&lt;p>当前沿模型开始参与自身改进（自动生成训练数据、自动调参、自动发现架构变体）时，能力增长的飞轮会自转。如果外部没有减速机制，社会——包括监管、安全评估、就业适应、国际规则——会跟不上技术曲线。放缓1到2年，是给社会一个&lt;strong>消化期&lt;/strong>。&lt;/p>
&lt;p>这不是技术判断，而是&lt;strong>节奏判断&lt;/strong>：问题不在于AI能不能更强，而在于&amp;quot;强得太快&amp;quot;本身会制造系统性风险。&lt;/p>
&lt;h2 id="三个人的同意温度并不相同">三个人的&amp;quot;同意&amp;quot;，温度并不相同&lt;/h2>
&lt;p>表面上是三人共识，仔细品，各有算盘：&lt;/p>
&lt;ul>
&lt;li>&lt;strong>Amodei&lt;/strong>：主动者。Anthropic的企业文化就是安全优先，他最有动力把&amp;quot;安全&amp;quot;变成行业门槛——毕竟这正是Anthropic的差异化竞争力；&lt;/li>
&lt;li>&lt;strong>Altman&lt;/strong>：微妙者。OpenAI刚把能力推上新高度，此时喊&amp;quot;放缓&amp;quot;，潜台词可能是&amp;quot;我们有自控力，所以别让政府来强制监管&amp;quot;；&lt;/li>
&lt;li>&lt;strong>马斯克&lt;/strong>：蹭热度者。嘴上赞同放缓，手上xAI的算力和模型迭代从未停过。&lt;/li>
&lt;/ul>
&lt;p>&lt;strong>当竞争格局不变时，所有人嘴上的&amp;quot;我们一起慢一点&amp;quot;，都需要被打个问号。&lt;/strong>&lt;/p>
&lt;h2 id="metr长期进驻从事后审计到嵌入式监督">METR长期进驻：从&amp;quot;事后审计&amp;quot;到&amp;quot;嵌入式监督&amp;quot;&lt;/h2>
&lt;p>倡议中最具操作性的一点，是邀请METR这类独立第三方评估组织&lt;strong>长期驻场&lt;/strong>。这和传统审计完全不同：&lt;/p>
&lt;ul>
&lt;li>事后审计：模型做完了、发布了，外部来查一查；&lt;/li>
&lt;li>嵌入式监督：评估人员在训练过程中实时在场，随时看到能力曲线、随时叫停危险方向。&lt;/li>
&lt;/ul>
&lt;p>METR（Model Evaluation &amp;amp; Threat Research）是独立于任何一家厂商的AI能力评估机构。让它长期进驻，相当于在每辆赛车里装一个独立裁判，而不是只在终点线检查成绩。这是把&amp;quot;自律&amp;quot;变成了&lt;strong>可验证的外部约束&lt;/strong>。&lt;/p>
&lt;h2 id="反对者的声音刹车会不会刹错了方向">反对者的声音：刹车会不会刹错了方向？&lt;/h2>
&lt;p>并非所有人都买账。反对者的论点很有力：&lt;/p>
&lt;ol>
&lt;li>&lt;strong>竞争不对称&lt;/strong>：如果美国公司主动放缓，而某些国家的实验室不放缓，全球领先地位可能易主；&lt;/li>
&lt;li>&lt;strong>放缓的代价&lt;/strong>：医疗、能源、气候这些领域，AI早一天突破，就早一天救人；&lt;/li>
&lt;li>&lt;strong>&amp;ldquo;谁来定速&amp;rdquo;&lt;/strong>：如果减速规则由几家头部公司和其政府制定，会不会变成排挤中小竞争者的工具？&lt;/li>
&lt;/ol>
&lt;p>这些质疑都成立。Amodei的回应是：&lt;strong>真正的风险不是&amp;quot;发展慢一点&amp;quot;，而是&amp;quot;在毫无准备的情况下撞上失控拐点&amp;quot;。&lt;/strong> 与其赌社会能跟上，不如主动留出让社会适应的缓冲。&lt;/p>
&lt;h2 id="行业影响">行业影响&lt;/h2>
&lt;ul>
&lt;li>&lt;strong>独立评估成为准入&lt;/strong>：未来企业采购前沿模型，可能被要求提供METR这类机构的长期评估报告；&lt;/li>
&lt;li>&lt;strong>前沿模型分级&lt;/strong>：达到某个能力阈值的模型，可能需要类似&amp;quot;核材料许可&amp;quot;的使用审批；&lt;/li>
&lt;li>&lt;strong>合规成本抬升&lt;/strong>：中小模型公司可能付不起嵌入式监督的成本，行业集中度进一步上升。&lt;/li>
&lt;/ul>
&lt;h2 id="展望刹车是为了能一直跑">展望：刹车是为了能一直跑&lt;/h2>
&lt;p>AGI竞赛像一场没有发车旗的接力赛。Amodei的倡议之所以重要，不在于它真的会让所有人停下，而在于&lt;strong>它第一次把&amp;quot;我们要不要一起慢一点&amp;quot;摆上了正式谈判桌&lt;/strong>。&lt;/p>
&lt;p>历史告诉我们，从原子能到生物技术，每一次强大技术的成熟，都经历过&amp;quot;狂奔—恐慌—规则&amp;quot;的循环。AI这一轮，似乎正在主动把&amp;quot;规则&amp;quot;提前带进狂奔之中。&lt;/p>
&lt;p>至于是真减速还是姿态秀，未来6到12个月，看谁的训练集群真的降了功率，就知道了。关注AGI治理与前沿竞争的深度分析，欢迎访问guijiagi.com。&lt;/p></description></item></channel></rss>