用 AI 筛简历,效率提升很明显,但偏见也会被同样放大。理解偏见从哪来,比事后道歉有用。
偏见从哪来?
第一来自训练数据。历史上某个岗位男性居多,模型就会学到这个相关性,并在排序时延续它。
第二来自你的历史决策。如果用过去录用的简历训练筛选模型,它会复制过去的偏好,包括那些你已经想改掉的偏好。
第三来自代理变量。模型不直接用性别,但会用社团、爱好、学校等变量间接推断。这些代理变量的杀伤力更大,因为它们看起来中立。
四个控制点是什么?
第一,只用与岗位直接相关的能力条件,比如技能、项目经验、证书。软性推断一律不进模型。
第二,屏蔽敏感字段。姓名、年龄、性别、籍贯、照片,在初筛阶段全部去掉。
第三,保留人工复核。任何进入淘汰环节的简历,都要有人看过。
第四,记录依据。每条筛选结果要能说明是基于哪个条件,方便事后审计。
怎么检测偏见?
做一个反事实测试:把同一份简历换个性别、换个名字,看排序是否变化。变化明显,就说明有偏见。
再做分布测试:统计不同群体的通过率,差异过大就要排查。注意,差异不一定等于歧视,也可能是样本结构问题,要结合业务判断。
法律与合规要注意什么?
不同地区对自动化招聘有不同的告知与申诉要求。被拒的人可能有权知道是否由算法筛选、有权要求人工复核。
这些条款要提前看清,别等出了问题再补。合规成本远低于事后处理成本。
AI 在招聘里真正该做什么?
做整理,不做判断。把简历结构化、把信息对齐、把重复内容合并、把面试问题按经历生成。这些工作量大但不涉及取舍。
判断谁合适,仍然是人。因为招聘不只是匹配技能,还要判断这个人能不能和团队长期共事。
最后一句:效率可以自动化,公平不能。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论