监管落地之后,采购 AI 的流程变了。以前是技术选型,现在是技术选型加合规审查。很多企业卡在审查环节,因为不知道要什么材料。

这篇按采购方的视角,列一份可执行的清单。

第一类材料是什么?

模型基本信息。包括模型名称、版本、训练数据来源的概述、能力范围、已知局限。这一份是基础,缺了后面的都无从谈起。

注意要求是概述和已知局限。很多供应商只给能力介绍,不给局限说明。这本身就是个风险信号:一个不愿说清边界的供应商,出事时也很难配合。

第二类是什么?

风险评估文档。要说明模型在预期使用场景下可能造成的负面影响,以及相应的缓解措施。

这份文档的质量差别很大。好的会具体到场景,比如在简历筛选中可能对特定群体产生偏差,缓解措施是人工复核加偏差监测。差的只有几句通用表述。

第三类是什么?

数据处理说明。包括数据在哪里处理、保存多久、是否用于训练、如何响应用户的数据权利请求。

这一份最容易出问题。很多产品的隐私政策写得笼统,实际实现和文字不一致。采购方要拿到的是实现层面的说明,不是政策文本。

第四类是什么?

人工介入机制。要说明在什么情况下会有人工复核,用户如何申诉,申诉的处理时限。

监管关注的核心是人的最终控制权。一个完全自动、没有人工通道的系统,在高风险场景里很难通过审查。

第五类是什么?

日志与追溯能力。要能回答某一次具体输出是怎么产生的,用了什么输入,走了什么路径。

这一条技术上最难,因为很多模型的黑箱特性决定了它说不清自己的推理过程。务实的做法是记录输入、输出、调用链,不强求解释内部推理。

采购方该怎么用这份清单?

先做分级。把要采购的用途按风险分级,高风险的逐项要材料,低风险的可以简化。

然后做一致性核验。供应商给的材料和实际行为是否一致,要抽样验证。这一条最容易被跳过,也最能暴露问题。

有什么现实提醒?

合规材料不是一次性的。模型会升级,场景会变化,材料要跟着更新。采购合同里应该约定更新义务和通知机制。

没有这条约定,你拿到的是一份过期的合规文件,出事时不能作为免责依据。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论