十一月十日,纽约州的 AI 安全法生效,OpenAI 和 Anthropic 等公司面临新的监管要求。这条消息对国内做跨境业务的公司同样有影响,因为很多产品的用户里有美国客户。

合规这件事,过去被当成法务问题,现在越来越像产品成本问题。

这部法管的是什么?

管的是自动化决策系统在特定场景的使用,重点在就业、住房、信贷、教育这些高风险领域。要求包括风险评估、披露、人工复核通道。

关键点是它管的是结果,不是技术。不管你用的是什么模型,只要决策影响了受保护群体,就在范围内。

为什么出海企业要关心?

因为用户在哪里,管辖就跟到哪里。一个面向美国用户的招聘筛选工具,哪怕服务器在国内、公司在国内,也可能被认定适用。

很多做 AI 工具出海的小团队没有意识到这一点。他们觉得产品只是个效率工具,不涉及敏感决策。但工具一旦参与了筛选、评分、排序,性质就变了。

合规成本具体有哪些?

四块。第一是风险评估,需要形成文档,说明系统可能造成什么影响。第二是透明度,要向用户说明自动化决策的存在。第三是人工复核,要提供申诉和人工介入的通道。第四是记录保存,要能追溯每次决策的依据。

前三块是产品改造,第四块是系统改造。加起来对一个十人团队来说,是一到两个季度的工程量。

小团队怎么扛?

两个思路。第一是避开高风险场景,把产品定位成辅助工具,最终决策由人做,并且明确说明。第二是把合规能力产品化,做成可复用的模块,一次投入多个产品共用。

第一个思路见效快,但会限制产品空间。第二个思路投入大,但能形成壁垒。

有没有被低估的风险点?

有,是数据留存。很多团队为了优化模型,会把用户数据长期保存。在高风险场景下,这可能构成额外的合规义务,包括数据主体权利响应。

这一点在隐私政策里往往写得含糊。真出事的时候,含糊就等于没有。

该怎么开始?

先做一次场景盘点。把产品里所有涉及对人的评价、排序、筛选的功能列出来,逐个判断是否落在高风险范围。

然后针对落在范围内的功能,做最小合规改造:加披露、加人工通道、加日志。不要一上来做全套,先让最危险的那部分合规。

合规不是一次性项目,是持续义务。把它当成产品的一部分来设计,比每次出事再补要便宜得多。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论