监管落地之后,采购 AI 的流程变了。以前是技术选型,现在是技术选型加合规审查。很多企业卡在审查环节,因为不知道要什么材料。
这篇按采购方的视角,列一份可执行的清单。
第一类材料是什么?
模型基本信息。包括模型名称、版本、训练数据来源的概述、能力范围、已知局限。这一份是基础,缺了后面的都无从谈起。
注意要求是概述和已知局限。很多供应商只给能力介绍,不给局限说明。这本身就是个风险信号:一个不愿说清边界的供应商,出事时也很难配合。
第二类是什么?
风险评估文档。要说明模型在预期使用场景下可能造成的负面影响,以及相应的缓解措施。
这份文档的质量差别很大。好的会具体到场景,比如在简历筛选中可能对特定群体产生偏差,缓解措施是人工复核加偏差监测。差的只有几句通用表述。
第三类是什么?
数据处理说明。包括数据在哪里处理、保存多久、是否用于训练、如何响应用户的数据权利请求。
这一份最容易出问题。很多产品的隐私政策写得笼统,实际实现和文字不一致。采购方要拿到的是实现层面的说明,不是政策文本。
第四类是什么?
人工介入机制。要说明在什么情况下会有人工复核,用户如何申诉,申诉的处理时限。
监管关注的核心是人的最终控制权。一个完全自动、没有人工通道的系统,在高风险场景里很难通过审查。
第五类是什么?
日志与追溯能力。要能回答某一次具体输出是怎么产生的,用了什么输入,走了什么路径。
这一条技术上最难,因为很多模型的黑箱特性决定了它说不清自己的推理过程。务实的做法是记录输入、输出、调用链,不强求解释内部推理。
采购方该怎么用这份清单?
先做分级。把要采购的用途按风险分级,高风险的逐项要材料,低风险的可以简化。
然后做一致性核验。供应商给的材料和实际行为是否一致,要抽样验证。这一条最容易被跳过,也最能暴露问题。
有什么现实提醒?
合规材料不是一次性的。模型会升级,场景会变化,材料要跟着更新。采购合同里应该约定更新义务和通知机制。
没有这条约定,你拿到的是一份过期的合规文件,出事时不能作为免责依据。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论