第249章 黑箱不是盒子，是借口（1/2）

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。

第二天上午，城市大脑试点专项会开在市政中心三楼小会议室。

小会议室这个名字很有欺骗性。它一点也不小，桌子长得像能直接举行国际谈判，水杯统一摆成这条线，话筒红灯亮起来的时候，人说话会自动变得像新闻发布会。磊磊坐在靠墙的位置，刚拿起笔，就被桌牌震住了。

他的桌牌写着：晓衡风险咨询协作人员。

磊磊看了半天，低声问何苗：“协作人员是不是听起来比打杂高级？”

何苗没抬头：“看你怎么协作。你要是等会儿又把话题带到外卖上，就叫会场餐饮气氛破坏人员。”

磊磊把笔放端正，坐姿立刻像被人工智能重新训练过。

会议主题很正式：城市大脑试点风险责任边界讨论。这个标题听起来比“谁背锅”体面很多，但大家心里都知道，今天真正要谈的就是这个。系统一旦联动，责任会变得像热锅上的冰块，看得见，摸不着，一开会就蒸发。

林凡把昨天夜里整理好的材料分发下去。第一页没有写复杂模型结构，只写了一个普通案例：独居老人磊阿姨被异常关怀系统标记，五个部门陆续响应，最后发现她只是去女儿家住了两天。材料后面列着每个系统的说明。

水务系统：仅提供用水异常参考。

门禁系统：仅提供出入记录参考。

医疗系统：仅提供复诊状态参考。

社区系统：仅根据综合提示生成关怀工单。

政务服务系统：仅根据服务标签推送便民信息。

磊磊看到一排“仅”，忍不住小声说：“这个字是不是系统界的护身符？”

老周把老花镜往下压：“护身符还讲究心诚，这个讲究甩得快。”

林凡没有急着展示结论。他让参会人员先看材料，又把每个系统的责任说明投到屏幕上。几位技术供应方代表表情都很稳，有人翻页，有人喝水，有人低头看手机，像一群成年人正在集体假装这个问题昨天才第一次出现。

星穹的人也来了。许既明坐在桌子另一侧，深灰西装，袖扣很低调，发言前先听，听的时候也很像在发言。他旁边的技术负责人姓钟，头发梳得一丝不乱，说话更是一丝不乱。

钟负责人说：“从平台角度看，城市大脑提供的是辅助决策能力。每个业务部门仍然保留最终处置权。算法不直接做行政决定，这一点在技术协议里写得很清楚。”

这话没错，甚至正确得像一块崭新的玻璃。

林凡问：“那如果所有业务部门都按照辅助建议走，最后结果错了，谁来解释？”

钟负责人微微一笑：“具体处置由业务部门负责。平台负责能力输出和技术保障。”

社区代表那边有个街道干部姓刘，听到这句坐直了：“但我们收到的是系统综合工单。工单等级、响应时限、建议话术都已经生成了。平台说只是建议，群众投诉的时候不会投诉建议，他会投诉我们为什么上门、为什么打电话、为什么把他列入重点关怀。”

钟负责人说：“所以业务部门需要建立复核流程。”

刘干部苦笑：“我们一个网格员管三百多户。复核流程写得很美，到了现场就是小王骑电动车从东头跑到西头，跑完还要填表。系统一分钟生成十个工单，人腿没有这个并发量。”

磊磊在本子上写：人腿并发量，建议列入技术指标。

顾启明看见他的本子，表情复杂，像想骂又觉得有点用。

林凡翻到第二页，上面是小商户误标案例。早餐铺被恶意举报，记录撤销不完整，几个部门各自提高关注级别。没有哪个部门正式处罚它，但它连续三次被推迟审批，一次被临时检查，两次错过活动摊位申请。老板在材料里的原话是：我没犯事，可日子像被系统轻轻踩了一脚，脚不重，但一直不拿开。

林桂兰看到这句话，叹了口气：“这老板会说。”

一位审批部门代表皱眉：“这个案例里，审批延迟有多种原因，不一定能归因到风险标签。”

苏晓坐在林凡旁边，翻开自己的文件：“所以我们要求可追溯。不是为了把责任硬扣给某个部门，而是要知道风险标签在哪些节点被读取过，是否影响排序、是否触发复核、是否改变办理时限。否则每个环节都说‘不一定’，最后群众只能一定倒霉。”

会议室里有人低头，有人交换眼神。

“黑箱”这个词，以前常被拿来形容技术模型。输入进去，输出出来，中间看不懂，所以叫黑箱。可林凡越来越觉得，真正让人无力的黑箱，不一定藏在代码里。它也藏在流程图里，藏在部门边界里，藏在“按规定办理”的话术里，藏在一个又一个看起来合理的职责说明里。

一个盒子看不懂，还可以要求打开。

一个借口看起来太合理，反而很难拆。

许既明终于开口。他说：“我同意需要更强的追溯机制。但也要避免把技术平台变成无限责任主体。如果每个业务后果都回推给底层能力，供应方会无法创新。”

这句话说得很漂亮。创新两个字一出来，空气都显得高端了一点。

磊磊低头写：创新，成年人版“我不是故意的”。

何苗用胳膊肘轻轻碰了他一下，让他别笑出声。

林凡看向许既明：“没人要求平台承担无限责任。我们要求的是可解释、可暂停、可纠错、可追责。你们可以不对每个业务结果负责，但必须对自己的输出边界负责。比如一个标签被设计成低置信度，却在下游被当成强信号使用，平台有没有提醒？一个接口被多个部门依赖，临时调整会影响公共服务，平台有没有提前告知？一个模型输出被频繁人工推翻，平台有没有监测偏差？”

许既明没有马上回答。

钟负责人接话：“这些可以通过接口协议和使用规范解决。”

老周突然说：“规范谁看？”

钟负责人顿了一下：“业务部门会看。”

老周问：“一线人员看吗？”

“会培训。”

“培训完记得住吗？”

钟负责人表情终于有点绷不住：“周老师，任何制度都需要执行。”

老周点头：“对，所以别把执行想得像下载补丁一样。人不是装一下就更新成功。”

磊磊差点鼓掌，忍住了，只在桌子底下给老周比了个大拇指。

林桂兰举手发言。她今天穿了一件暗红色外套，头发梳得很利索，手里拿着一张皱了边的纸。那是她昨晚在社区群里问来的问题，字有些大，有些歪，但每一条都具体。

“我不懂你们技术怎么分工。”她说，“我就问几件事。第一，系统找我上门，我能不能问为什么？第二，理由错了，我找谁改？第三，我不会线上提交，能不能去社区交纸？第四，我被错标了，别的部门还会不会看见旧东西？第五，你们说只是参考，那工作人员能不能因为参考就少给我办事？”

本章未完，点击下一页继续阅读。