第109章 年龄、学历、地域都成标签(1/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
招聘系统的问题,比林凡58分更深。
评估继续进行后,项目组发现系统很爱给人贴标签。学历不只是学历,是“学习能力代理指标”;年龄不只是年龄,是“适应速度风险”;地域不只是地域,是“流动稳定性”;职业空窗不只是空窗,是“抗压与连续性存疑”。
每个词都很体面。
体面到让人很难一眼看出它在歧视。
张磊看着报告,说:“它把偏见穿上了西装。”
林凡说:“还打了领带。”
小吴的样本被系统标记为“非重点院校,基础能力需验证”。小吴看到后,表情很难看:“它怎么知道我基础能力不行?”
马骏安慰:“它不知道,它猜的。”
小吴说:“那更难受。被了解后否定,至少说明它看过我;被猜着否定,像我连解释机会都没有。”
阿宁转岗样本被标记为“职业路径不连续”。她说:“我从设计转视觉风控,明明是因为岗位变化,怎么到它这里变成我不稳定?”
何苗说:“系统喜欢直线。现实里很多人是被时代拐弯的。”
最刺眼的是地域标签。某些地区候选人在“稳定性”和“信用风险”上平均分偏低。供应商解释,这是根据历史离职率、薪资水平和履约数据形成的统计关联。
苏晓问:“统计关联能不能用于个人判断?”
供应商说:“只是参考。”
“如果参考导致排序靠后,靠后导致看不见,看不见导致没有面试机会,那它就不是参考,是筛选。”苏晓语气很平,“你们不能把群体统计压力压到个人身上。”
会议室里没人说话。
林凡想起金融风控。贷款系统里,地域、职业、年龄也常常是变量。招聘和金融看似不同,本质都在问一个问题:系统根据过去的数据,推测你未来值不值得信任。
可人不是一组平均值。
一个来自低分地区的人,可能很可靠;一个年龄偏大的候选人,可能学习很快;一个学历普通的人,可能靠真实项目练出判断;一个职业空窗的人,可能只是照顾家人、养病、被裁员,或者像张磊一样正在从坑里爬出来。
张磊看到“职业波动风险”那项,忍不住说:“我申请把我的人生从训练数据里移除,避免污染模型。”
周舟说:“你的波动很有教育意义。”
“这是夸吗?”
“看你怎么理解。”
林凡和苏晓一起整理了一份偏见评估清单。清单要求:敏感标签不得直接用于淘汰;半敏感标签需要做影响测试;模型报告必须区分事实和推断;候选人有权补充解释;招聘方必须定期检查不同群体的通过率;对被低分但岗位核心能力匹配的人进行人工复核。
项目经理看完,头疼:“这套下来,客户会觉得麻烦。”
林凡说:“歧视本来就是因为图省事。”
苏晓补:“精准不等于公平。很多不公平也很精准。”
这句话让林凡愣了一下。
他把它记下来。
客户最终接受了一部分修改,因为监管风向已经不允许他们完全无视。系统界面新增了“推断标签”提示,明确标注哪些是事实,哪些是模型推断;年龄和地域不再显示给一线面试官,只保留必要合规字段;低分候选人抽检比例提高。
不完美。
但比原来好。
小吴问林凡:“这些修改真的有用吗?”
林凡说:“有一点。”
本章未完,点击下一页继续阅读。