因果模型

算法公平讨论常用平衡指标：不同群体在录取、放贷、筛选结果上比例对齐，就算公平。可相关性的对齐很容易骗人，当真正追问歧视经由什么路径传导，哪条该堵、哪条该留，相关性回答不了，必须拿出因果结构。这篇把公平从统计平衡拉回因果路径。 相关性公平为什么会自欺？ 常见指标要求不同群体的通过率、评分分布对齐，看起来中立。但两个群体分布对齐，可能是真公平，也可能是把历史歧视的结果原样复制进新数据，再用相关性指标证明自己公平。 相关性能告诉我们群体与结果一起变动，却不能区分这条链是正当差异还是歧视传导。同一组平衡数字背后，因果结构可能完全相反，数字相同不等于公平相同。 只看平衡不看路径，公平指标可以被调得漂亮，歧视却藏在更深的环节里继续运作。 歧视经由哪些因果路径传导？ 一条是直接路径：受保护属性本身进入决策，这是明的偏见。另一条是代理路径：不直接使用属性，而使用与属性高度相关的变量，结果歧视照样传导，只是换了个中性名字。 还有一条是历史路径：训练数据里早已刻入过去的不平等，模型不制造新偏见，只是把存量歧视原样再分配，相关性平衡也掩盖不了这条源头。 三条路径性质不同：直接偏见要切断，代理变量要审查，历史存量要追溯，靠一个平衡指标无法分别处理。 因果模型能指出哪条路径该被干预？ 因果模型把决策拆成变量之间的有向关系，追问受保护属性通过哪条边影响结果，哪条边是正当能力差异，哪条边是不该存在的传导。干预点由此变得明确。 它还能区分公平与效率的真正冲突：有些差异来自合理条件，不应强行抹平；有些差异纯粹是历史烙印，应当移除。因果框架让公平讨论从比例口号落到具体路径上。 没有因果图，就不知道该切断哪条边，公平干预可能误伤正当差异，也可能漏掉真正的歧视通道。 缺了因果的公平部署会留下什么隐患？ 隐患之一是代理歧视合法化：直接删掉受保护属性，却让相关代理变量继续传导，表面合规，歧视换皮运行，相关性指标依旧好看。 隐患之二是把历史不公当事实纳入模型：存量不平等被当成客观分布学习，复制成稳定规则，系统越高效，复制越彻底。 算法公平最终是一个因果责任问题，不是统计平衡问题。先画出传导路径，再决定干预哪一段，公平才不是一组可以随便调好的数字。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论