第135章 老周一句话点破偏见来源（1/2）

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。

老周点破偏见来源，是在一场培训里。

青橙数科为了应对越来越多的模型公平问题，搞了一次内部培训，标题叫《AI模型偏差识别与治理》。HR原本想请外部专家，老板嫌贵，最后让老周讲。老周说自己不讲PPT，HR说不行，必须有材料。

于是老周做了三页PPT。

第一页：数据来自人。

第二页：人有偏见。

第三页：所以数据也会。

HR看完，表情很复杂：“周老师，这是不是太简洁了？”

老周说：“你们不是说要降本增效？”

培训当天，会议室坐满了人。开发、产品、运营、客服、法务、销售都来了。大家本来以为会听一堆复杂公式，结果老周上台第一句话就是：

“模型偏见不是机器突然学坏了，是它认真学习了人类以前怎么坏。”

会议室里先是一静，然后有人笑出了声。

老周没有笑。他举了三个例子。

招聘系统偏爱名校，不是因为模型崇拜名校，是因为过去公司更常录用名校；风控模型拒绝低收入用户，不是因为模型讨厌穷人，是因为过去穷人更容易在不稳定生活里逾期；教育系统给标准答案高分，不是因为模型讨厌烤肠，是因为过去评分体系更爱优美空话。

“数据不是事实本身。”老周说，“数据是人类记录下来的事实。记录什么，不记录什么，怎么记录，谁有资格被记录，都是选择。”

林凡坐在台下，认真记。

老周继续：“很多人说，模型只是反映现实。对，它反映现实。但现实里有坑，你拿镜子照坑，不等于坑合理。更不能照完以后说，既然镜子里有坑，那大家继续掉。”

张磊小声对林凡说：“周哥今天像哲学系返聘。”

林凡说：“闭嘴，记笔记。”

老周讲到代理特征时，用了一个很接地气的例子：“你不让模型看收入，它看居住地、设备、交易方式；你不让它看年龄，它看工作年限、毕业年份、薪资期望。就像你不让人说穷，他可以说你衣服旧；不让人说老，他可以说你发际线成熟。”

会议室笑成一片。

阿宁举手问：“那是不是不用这些特征就行？”

老周说：“没那么简单。不用可能损失有效信息，用了可能带来偏见。关键是要测试影响，留人工复核，给申诉通道，不让单一特征决定命运。”

陈茜问：“客服反馈算不算数据？”

“算。”老周说，“但客服反馈也有偏。愿意投诉的人是一类，不会投诉的人又是一类。沉默的人，也要想办法看见。”

小吴问：“那有没有完全公平的数据？”

老周看他：“你觉得有没有完全公平的人？”

小吴摇头。

“那就别指望数据成仙。”老周说，“我们能做的是知道它不干净，然后清洗、标注、限制使用、持续检查。技术敬畏不是拜神，是知道自己手里的东西会脏。”

这句话让会议室安静下来。

培训结束后，老板难得没有挑刺。他只是说：“老周讲得很通俗。”

老周说：“因为复杂话容易被拿来装没问题。”

林凡把培训内容整理成内部文档，标题叫《数据偏见基础说明》。他保留了老周那句最核心的话：

数据来自有偏见的人。

苏晓看到文档后，发来消息：

这句话可以当很多报告的第一页。

林凡回：

老周出品。

本章未完，点击下一页继续阅读。