首尔AI安全峰会：在竞争中寻求合作

2026年6月23-25日，第三届全球AI安全峰会在韩国首尔召开。来自65个国家的政府代表、50家AI公司CEO、30个国际组织参加了此次峰会。

峰会的核心议题：在AI竞赛日益激烈的地缘政治环境中，如何在AI安全上建立最低限度的全球共识？

主要成果

1. 《首尔AI安全框架》签署

65个国家签署了《首尔AI安全框架》，核心内容包括：

AI风险分级共识：

  • 一致同意将AI风险分为5级（从"可忽略"到"极端"）
  • 定义了各风险级别的评估标准
  • 建立了风险级别的公开通报机制

红队测试国际标准：

  • 通过了AI系统红队测试的指导原则
  • 建立了红队能力的国际认证体系
  • 推动红队测试结果的跨境互认

AI事故通报机制：

  • 重大AI事故需在72小时内通报
  • 建立全球AI事故数据库（共享匿名化数据）
  • 定期发布AI安全态势报告

2. 计算集群透明度倡议

由美国、欧盟、英国、日本、韩国、澳大利亚、加拿大等20个国家发起：

  • 大型AI训练集群（>10^23 FLOPS）需进行透明度申报
  • 申报内容包括：算力规模、数据规模、安全评估结果
  • 目的：早期识别可能达到AGI的系统

中国未签署此倡议，认为这是"技术监控"。

3. AI安全研究国际合作

建立了三个国际合作研究项目：

1. 可解释AI国际联合实验室（由欧盟牵头）

  • 15个国家参与
  • 预算：2亿欧元/3年
  • 目标：开发AI决策可解释性标准工具

2. AI对齐研究国际合作计划（由美国牵头）

  • 重点是"弱监督"和"可扩展对齐"研究
  • 预算：1.5亿美元/3年
  • 30个顶尖AI实验室参与

3. AI安全基准国际竞赛（由韩国牵头）

  • 建立统一的AI安全基准测试套件
  • 每年举办AI安全竞赛
  • 促进安全技术的开放创新

主要分歧

分歧1：AGI安全优先级

美国/欧盟观点：AGI安全是最高优先级，需要提前布局

中国/印度观点：当前AI系统的安全问题（偏见、虚假信息、就业）更紧迫

结果：两个议题都保留，但AGI安全获得更多资源承诺

分歧2：安全vs创新平衡

欧盟：安全优先，必要时可以牺牲创新速度

美国/英国：平衡安全与创新，避免过度监管

中国：安全是底线，但要在发展中解决

结果：未达成共识，各国保留各自监管路径

分歧3：技术共享程度

美国：关键技术（如先进对齐技术）不应无条件共享

欧盟：AI安全技术应该开放，特别是可解释AI、AI审计等技术

中国：反对技术封锁，主张AI技术应该是全球公共产品

结果：建立了"AI安全技术分类共享机制"——基础技术开放，敏感技术受限共享

分歧4：AI军事应用

联合国秘书长：呼吁禁止完全自主武器（LAWS）

美国/俄罗斯：反对全面禁止，主张制定行为规范

中国：支持禁止，但要求包括网络武器

结果：仅达成"政治宣言"，无法律约束力

中国的参与和立场

中国的积极参与

中国在本次峰会上表现出了比前两届更积极的姿态：

  1. 签署了《首尔AI安全框架》（前两届未签署）
  2. 宣布加入AI事故通报机制
  3. 承诺向AI安全研究国际合作计划捐赠1000万美元
  4. 主办下一届AI安全峰会（2027年，北京）

中国的核心立场

1. 发展权优先

中国强调发展中国家在AI发展上的权利，反对以安全为名限制技术转移。

2. 主权原则

各国应该有权选择自己的AI治理路径，反对"AI治理输出"。

3. 共同但有区别的责任

发达国家应该在AI安全上承担更多责任，并向发展中国家提供能力建设支持。

中国的提案

中国提出了三项提案（部分被采纳）：

  1. AI能力建设国际合作计划（通过）：帮助发展中国家建立AI安全能力
  2. AI开源模型安全指南（部分采纳）：建立开源模型的安全评估标准
  3. AI数据跨境流动框架（未通过）：主张数据本地化要求不应过度限制AI发展

对产业的影响

1. 安全标准成为竞争优势

AI安全正在从"成本项"变成"竞争优势"：

  • 通过国际安全认证的AI产品更容易进入全球市场
  • AI安全保险开始出现（通过认证可获保费折扣）
  • 企业开始设立"CISO"（首席AI安全官）

2. 安全研究获得更多资源

峰会成果将带动大量资源投入AI安全研究：

  • 政府研发资金：预计3年内投入超过50亿美元
  • 企业研发：OpenAI、Anthropic等公司承诺将10-15%的研发预算投入安全研究
  • 学术机构：AI安全成为热门研究方向

3. 合规成本上升

AI安全合规将成为AI企业的新成本项：

  • 红队测试：预计每次大版本发布需投入50-200万美元
  • 安全认证：预计每年投入100-500万美元
  • 事故保险：预计占营收的0.5-2%

展望

首尔AI安全峰会是全球AI治理的一个重要里程碑。虽然存在分歧，但各国在"AI安全需要国际合作"这一点上达成了共识。

这种共识是脆弱的——在地缘政治紧张的背景下，AI安全合作随时可能受到冲击。但它是宝贵的——因为它证明了即使在竞争关系中，人类仍然可以在共同威胁面前寻求合作。

2027年的北京AI安全峰会将是对这种合作的进一步考验。中国作为主办方，需要在"展示领导力"和"尊重多样性"之间找到平衡。

AI安全是全球公共产品。无论地缘政治如何变化，确保AI安全符合所有国家的利益。

本文基于首尔AI安全峰会官方文件和参会记者报道撰写。

加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞，认知差异创造无限可能。