第248章 林凡看见更大的风险（2/2）

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。

林桂兰说：“系统也不知道哪个井盖平时就响。我们小区那个井盖，一下雨就哐当，大家都知道。”

老周看向林凡：“这些都要进评估。不是让系统什么都知道，而是要承认它不知道。”

这句话让林凡停了几秒。

承认不知道，听起来像一句废话，却是很多智能系统最不愿意做的事。因为宣传片里没有“不知道”，招标书里没有“不确定”，汇报PPT里更不能写“我看不懂但我先别瞎判”。可城市不是考试题，不能靠选一个看起来最像答案的选项过关。城市里每个选项后面都站着人，有人要上班，有人要看病，有人等救护车，有人只是想让楼道灯亮起来。

顾启明问：“你想把风险评估怎么改？”

林凡把白板擦出一块空白，写了四行：

第一，跨系统联动必须标明源头。

第二，高影响标签必须有过期时间和撤销通道。

第三，所有“仅供参考”必须说明被谁参考、参考到什么程度。

第四，关键公共服务不得只依赖城市大脑分流。

磊磊读完第四条，认真点头：“翻译一下，就是别把全城人民都塞进一个智能客服里排队。”

苏晓说：“再加一条，公众要能看懂自己为什么被系统找上门。不是给他一份三十页技术报告，是告诉他哪条数据触发了什么动作，他能拿什么材料更正。”

林桂兰立刻说：“材料别光写线上提交。我认识一堆老人，扫码扫得像在给手机看手相。”

何苗笑得差点把笔掉了：“阿姨，这句我也记。”

“你记归记，”林桂兰说，“别最后报告写得跟天书似的。你们年轻人最爱写‘多源异构数据融合’，我一看就想问，异构是哪个小区的？”

会议室又笑了。笑声里，林凡低头看见老周的旧笔记摊在桌边。那本本子已经被翻得边角发软，里面最旧的一页写着一句话：关键事，别只让一个系统知道。

他以前把这句话理解为备份，理解为留证据，理解为事故后能追查。到了城市大脑这里，它变成了更大的提醒：关键事，也别只让一个系统决定。哪怕这个系统叫大脑，它也不是城市本身。城市的记忆在老人嘴里，在保安的巡逻本上，在维修师傅听井盖声音的经验里，在窗口工作人员看见来办事的人脸色发白时递过去的一杯水里。

机器能算出异常，但不一定懂什么叫反常。

机器能推送关怀，但不一定懂什么叫打扰。

机器能分配优先级，但不一定懂谁正在硬撑。

深夜十一点，复盘会还没散。磊磊已经把夜宵吃到只剩两根青菜，顾启明从“老板要保持威严”饿成了“老板也需要碳水”。苏晓那边的屏幕暗了一下又亮起来，她把一份晓衡的初版清单发到群里，文件名叫《城市大脑公众权益风险点-别再写仅供参考版》。

顾启明看见文件名，沉默两秒：“你们咨询公司的交付都这么有情绪吗？”

苏晓说：“正式版会删掉后半句。”

磊磊说：“不删也行，甲方看了更精神。”

林凡没有参与斗嘴。他把白板上的线重新描了一遍。那些线从模块到模块，从数据到决策，从建议到行动，已经连成一张城市神经。过去他们处理的黑箱，很多时候还像一个盒子：盒子错了，找盒子；接口卡了，找接口；平台耍赖，逼它留痕。可现在，盒子变多了，线变密了，每个盒子都躲在线后面，说自己只是城市智慧的一小部分。

这才是更大的风险。

不是某个系统突然作恶，而是所有系统都只负责自己那一小段正确，合在一起却没人负责整体后果。不是某个模型不透明，而是每一层都把责任藏进“复杂”“协同”“试点”“优化”这些好听的词里。等一个普通人被误伤，他面对的不是一个明确的错误按钮，而是一整套互相礼貌转发的流程。

林凡在白板最上方写下新的标题：

城市级依赖风险。

磊磊看了看，举手：“能不能换个通俗点的？这个标题像我大学论文，老师看完都想给我延毕。”

林桂兰把瓜子壳包起来，慢悠悠地说：“就写，别让一个错带着一群错开会。”

老周笑了一声：“这句比你的论文强。”

林凡把标题

一处误判，多处响应；每处都说自己只是参考。

笔尖落下的时候，会议室的空调发出低低的嗡鸣。窗外的海城市还在运转，车流从高架上滑过去，医院急诊灯亮着，社区值班室有人打哈欠，政务大厅的叫号屏已经熄灭。它们都将被城市大脑连接起来，变得更快、更顺、更像一个整体。

可林凡看见的不是宏大的整体，而是整体里那些容易被淹没的小声音。

他说：“明天开始，我们不只看每个模块对不对，还要看它们连起来以后，会不会把人困住。”

苏晓在屏幕那头点头：“这就是智能围城那阵子真正要打的仗。”

磊磊赶紧翻本子：“我记一下，接下来不是大战人工智障，是大战人工围城。”

顾启明纠正：“别乱起名。”

林桂兰说：“起得挺准。城墙要是看不见，比看得见的还难翻。”

林凡合上老周的笔记本，黑色封皮在灯光下旧得发亮。他忽然明白，黑箱乱飞那段时间里他们拆开的那些黑箱，并没有消失。它们只是被装进了更大的系统里，换了更体面的名字，穿上了城市治理的外套。

黑箱不再像盒子。

它开始像借口。