2026全球AI安全峰会：共识与分歧
首尔AI安全峰会：在竞争中寻求合作 2026年6月23-25日，第三届全球AI安全峰会在韩国首尔召开。来自65个国家的政府代表、50家AI公司CEO、30个国际组织参加了此次峰会。 峰会的核心议题：在AI竞赛日益激烈的地缘政治环境中，如何在AI安全上建立最低限度的全球共识？ 主要成果 1. 《首尔AI安全框架》签署 65个国家签署了《首尔AI安全框架》，核心内容包括： AI风险分级共识： 一致同意将AI风险分为5级（从"可忽略"到"极端"） 定义了各风险级别的评估标准 建立了风险级别的公开通报机制 红队测试国际标准： 通过了AI系统红队测试的指导原则 建立了红队能力的国际认证体系 推动红队测试结果的跨境互认 AI事故通报机制： 重大AI事故需在72小时内通报 建立全球AI事故数据库（共享匿名化数据） 定期发布AI安全态势报告 2. 计算集群透明度倡议 由美国、欧盟、英国、日本、韩国、澳大利亚、加拿大等20个国家发起： 大型AI训练集群（>10^23 FLOPS）需进行透明度申报 申报内容包括：算力规模、数据规模、安全评估结果 目的：早期识别可能达到AGI的系统 中国未签署此倡议，认为这是"技术监控"。 3. AI安全研究国际合作 建立了三个国际合作研究项目： 1. 可解释AI国际联合实验室（由欧盟牵头） 15个国家参与 预算：2亿欧元/3年 目标：开发AI决策可解释性标准工具 2. AI对齐研究国际合作计划（由美国牵头） 重点是"弱监督"和"可扩展对齐"研究 预算：1.5亿美元/3年 30个顶尖AI实验室参与 3. AI安全基准国际竞赛（由韩国牵头） 建立统一的AI安全基准测试套件 每年举办AI安全竞赛 促进安全技术的开放创新 主要分歧 分歧1：AGI安全优先级 美国/欧盟观点：AGI安全是最高优先级，需要提前布局 中国/印度观点：当前AI系统的安全问题（偏见、虚假信息、就业）更紧迫 结果：两个议题都保留，但AGI安全获得更多资源承诺 分歧2：安全vs创新平衡 欧盟：安全优先，必要时可以牺牲创新速度 美国/英国：平衡安全与创新，避免过度监管 中国：安全是底线，但要在发展中解决 结果：未达成共识，各国保留各自监管路径 分歧3：技术共享程度 美国：关键技术（如先进对齐技术）不应无条件共享 欧盟：AI安全技术应该开放，特别是可解释AI、AI审计等技术 中国：反对技术封锁，主张AI技术应该是全球公共产品 结果：建立了"AI安全技术分类共享机制"——基础技术开放，敏感技术受限共享 分歧4：AI军事应用 联合国秘书长：呼吁禁止完全自主武器（LAWS） 美国/俄罗斯：反对全面禁止，主张制定行为规范 中国：支持禁止，但要求包括网络武器 结果：仅达成"政治宣言"，无法律约束力 中国的参与和立场 中国的积极参与 中国在本次峰会上表现出了比前两届更积极的姿态： 签署了《首尔AI安全框架》（前两届未签署） 宣布加入AI事故通报机制 承诺向AI安全研究国际合作计划捐赠1000万美元 主办下一届AI安全峰会（2027年，北京） 中国的核心立场 1. 发展权优先 ...
