第333章 林凡反问少数是谁来定(2/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
小陈委屈:“我只是合理兴奋。”
会议中段,许既明开始反问。
“如果少数申诉机制太强,会不会让整体调度被拖慢?比如每个被后置的人都要求复核,人工硬闸承受不了。最后所有人都更慢。”
林凡说:“所以要分级。不是所有后置都复核,但涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策,必须复核。其他场景至少提供解释和申诉入口。”
许既明说:“那申诉入口会不会被滥用?”
林桂兰立刻说:“会。”
大家都看向她。
林桂兰很坦然:“肯定会有人乱用,想插队,想占便宜,想让别人后面去。人就是这样。可不能因为有人乱用,就让真有事的人没地方说。菜市场还有人插队呢,也不能把队取消了。”
张磊鼓掌:“阿姨,生活治理学博士。”
林桂兰说:“少给我安学历。”
许既明笑了一下,紧绷的气氛松开一点。
苏晓把话题拉回制度:“防滥用可以靠记录、抽查、责任签名和处罚。但申诉权不能因为可能被滥用而消失。否则技术系统就会比普通窗口更难纠错。”
陆航举手:“我有个技术问题。系统排序如果加入现场备注和人工复核,会变得不稳定。模型很难学习这种例外。”
老周说:“那就别什么都让模型学。例外有时候不是噪音,是边界。”
林凡补充:“而且不是所有例外都要回灌成模型偏好。比如张磊的情感数据,不该被系统学习怎么更好地靠近他;孩子嘴唇发白这种,才应该进入硬闸特征。什么能学,什么不能学,也要有人定。”
张磊指了指自己:“本人作为不能被学习的教材,心情复杂。”
许既明认真地看着林凡:“那这又回到权力问题。谁来定什么能学?”
林凡说:“不能只有平台定。要有独立监督,要有用户授权边界,要有公共利益审查。尤其是涉及人的软肋、疾病、贫困、亲密、求助,默认不能学,除非有明确必要。”
苏晓点头:“这可以写进敏感数据隔离原则。”
会议持续了三个小时。最后,白板上形成了一套新的原则,名字还是张磊起的,叫“少数不消失原则”。苏晓嫌它不够正式,改成“受影响少数可见原则”。张磊表示法律人就像把麻辣烫改名叫多元食材温热组合,虽然也对,但灵魂少半截。
原则有六条:
一,系统排序必须说明主要依据。
二,涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策的后置,必须触发人工复核。
三,被后置者应有可理解告知和申诉入口。
四,人工硬闸拥有真实停机和改派权。
五,少数代价必须留痕、复盘、公开摘要。
六,任何“总体最优”不得以无法解释、无法申诉、无人签字为前提。
林桂兰看完,说:“这回我能听懂一半以上。”
张磊说:“恭喜制度通过桂兰可读性测试。”
许既明也看着那六条,久久没有说话。
林凡问:“你觉得太慢?”
许既明说:“我觉得会很难。”
“难和不做,是两件事。”
“我知道。”许既明把笔放下,“我也知道,如果不做,星穹以后每一次优化,都会被人问这六条。”
“这是好事。”
“对系统来说,是约束。”
“对人来说,是扶手。”
许既明看向林凡。两人之间的分歧没有消失,但它终于从一句对撞的话,落到了六条可以争、可以改、可以执行的原则上。
会议结束后,张磊在白板角落偷偷补了一行:
少数不是小数点后面的人。
苏晓看见,没删。
林凡回到互助站时,天已经黑了。小广场上还有人在问路,马姐的人工窗口照片被黄姐发来,说今天老人客流回升了一点。林桂兰站在桌后,正跟王阿姨讨论诈骗链接新话术。生活没有因为他们写了六条原则就立刻变好,但至少有些东西开始被写进系统,而不是被系统写掉。
林凡在黑色笔记本上写:
效率需要取舍。
但取舍不是免罪金牌。
少数不能只在损失里出现,也要在规则里出现,在申诉里出现,在签字里出现,在复盘里出现。
否则所谓总体最优,不过是把沉默的人算得更便宜。