首页 > 都市重生 > 人工不智能:AI狂飙三十年 > 第249章 黑箱不是盒子,是借口

第249章 黑箱不是盒子,是借口(2/2)

目录

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

她念完以后,把纸放到桌上。

会议室里一时间没人说话。

这五个问题没有任何术语,没有“模型治理”,没有“数据闭环”,没有“责任矩阵”,但它们比所有大词都难糊弄。因为它们不是站在系统角度问“怎么运行”,而是站在人角度问“我怎么办”。

苏晓轻轻点头,把这五条抄进会议纪要:“这就是公众可理解责任链。”

一位市里负责人看向林凡:“你们建议怎么写进试点方案?”

林凡把准备好的第三页投出来。标题很短:黑箱治理,不止开盒。

每一次高影响系统联动,必须生成责任链记录。

每一个风险标签,必须注明来源、置信度、用途限制、撤销方式和有效期限。

每一个“仅供参考”,必须对应“被谁参考、如何参考、是否可拒绝参考”。

每一个影响居民权益的自动建议,必须提供人工复核入口和离线申诉入口。

磊磊看着屏幕,小声说:“这哪是治理黑箱,这是给黑箱办身份证。”

何苗说:“还要年检。”

老周补刀:“违法乱纪吊销。”

会议室终于笑了一下。笑声不大,但让前面那堆沉甸甸的话稍微落了地。林凡喜欢这种笑,不是为了冲淡问题,而是让人有力气继续把问题说清楚。

许既明看完那四条,手指在桌面轻轻点了两下:“技术上可行,但成本不低。”

顾启明说:“错了以后再补,成本更高。”

刘干部也点头:“我们基层最怕模糊。模糊的时候,上面说按系统,群众骂我们,平台说看协议,最后就剩网格员站在门口解释。解释得好叫服务,解释不好叫矛盾升级。”

磊磊在本子上写:基层,黑箱最终出气口。

写完他自己愣了一下。以前他写这种句子,大多为了好笑。现在也好笑,但笑完总觉得扎。系统越大,普通工作人员越容易变成“最后一公里背锅侠”。他们不是没有责任,可也不该用一辆电动车、一支笔和一张笑脸,去消化所有上游设计留下的坑。

会议开到中午,方案终于出现了几处实质性修改。责任链记录被加入试点一期必备功能,高影响标签设置最长有效期,居民申诉不再只挂在APP里,社区服务中心必须保留纸质提交渠道。最关键的是,“仅供参考”四个字后面,新增了一段说明:凡进入业务排序、资源分配、服务限制、风险关注等环节的系统建议,均须记录实际使用方式,不得以参考名义规避责任。

磊磊看到这段,低声说:“仅供参考终于成年了,开始承担民事责任。”

林桂兰问:“啥意思?”

“意思就是,”磊磊想了想,“以后它不能光嘴上说说,得留下字据。”

林桂兰满意了:“那行。人说话都要算数,机器凭什么撒完娇就跑。”

下午散会时,许既明在走廊里叫住林凡。

走廊尽头有一台自动贩卖机,里面的饮料排列得整整齐齐,每一瓶都像被算法安排好了人生。许既明买了一瓶无糖茶,递给林凡。林凡没接。

许既明笑了笑:“不用这么紧张,一瓶茶不算利益输送。”

林凡说:“我怕回去写日志麻烦。”

许既明把茶收回来,自己拧开:“你现在越来越像周老师。”

“这算夸奖。”

“当然。”许既明喝了一口茶,“但你也要知道,城市级系统不可能每一步都等人确认。效率和责任之间,总要有取舍。”

林凡看着他:“取舍可以。问题是谁来取,替谁舍。”

许既明没有立刻笑。他望向会议室方向,里面还有工作人员在收拾桌牌。“你把黑箱说成借口,很有传播性。”

“不是为了传播。”

“但它会传播。”许既明说,“传播以后,很多人会把复杂问题简单化。供应方会被妖魔化,试点会变慢,大家会害怕承担责任。”

林凡说:“害怕承担责任,不是因为我说了什么,是因为他们以前太习惯把责任藏起来。”

许既明轻轻叹了口气:“你这人,越来越不好谈。”

林凡也笑了一下:“我以前好谈,是因为没看清楚。”

两个人站在走廊里,谁都没有再往下说。自动贩卖机发出细微的电流声,屏幕上滚动播放着“智能推荐,懂你所需”。林凡看着那行字,忽然觉得它和城市大脑的宣传语很像。懂你所需,前提是它真的懂;如果不懂,至少要允许人说:你弄错了。

晚上回到云启未来,白板上还留着昨天那句话:一处误判,多处响应;每处都说自己只是参考。

林凡在

黑箱不是盒子,是借口;治理黑箱,不止开盒,还要拆借口。

磊磊看完,摸着下巴说:“这句可以当今天收工金句。”

顾启明从门口路过:“别什么都当金句,先把报告写完。”

林桂兰正好拎着保温桶进来,听见报告两个字,立刻说:“写报告可以,别写得像机器翻译机器。谁看不懂,我就让谁来社区群里解释。”

磊磊肃然起敬:“阿姨,你这是公众可理解性压力测试。”

林桂兰把保温桶往桌上一放:“别整洋词。就是人话考试。”

林凡看着会议室里的人。老周在翻日志,苏晓在线上改清单,何苗把术语拆成普通话,小陈工程师重新标注接口风险,顾启明一边嫌麻烦一边催进度,磊磊负责把严肃问题翻译成大家笑完还能记住的话,林桂兰则像一根结实的绳子,把所有讨论拽回普通人的生活里。

他忽然觉得,所谓治理黑箱,也许不是找到一个万能答案。

而是不断把那些躲在盒子里、流程里、协议里、漂亮话里的借口,一个一个拖到灯下,让它们不能再假装自己只是技术问题。

目录
返回顶部