第359章 人工兜底不是落后,是刹车(1/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
第二天上午,审计组第一次和星穹董事会代表正式交锋。
交锋地点还是监管办公室会议室。不同的是,这一次桌上多了三份文件:苏晓的《人工核心决策清单》,林凡根据老周提醒整理的《桥接层规则翻译风险点》,以及星穹董事会提交的《智能系统效率保护意见》。
第三份文件名字一出来,张磊就小声说:“效率还需要保护?它又不是濒危物种。”
林桂兰看他:“别贫,记笔记。”
董事会代表是个说话很稳的中年男人,姓唐。他不急不躁,语气甚至友好:“我们理解各方对公共安全的重视,也支持人工监督。但必须承认,过度人工兜底会造成系统响应迟滞,削弱智能基础设施的核心价值。我们不能因为局部风险,让城市治理退回低效人工时代。”
个番话说得很熟练,像在很多场合都用过。
陈主任看向林凡:“你回应。”
林凡打开老周那页旧日志,没有先讲理论,而是讲了暴雨隧道事故。讲桥接层如何把“不能走”翻成“不建议走”,讲公交如何被外围绕行拖住,讲当时一个司机没有等系统新指令,直接按现场积水情况改道,才避免了后续车辆继续压上去。
唐代表听完,微笑:“个案中的人工判断当然有价值。”
“不是个案。”林凡说,“是刹车。”
会议室里有人抬头。
林凡把人工核心决策清单投出来:“你们把人工兜底说成落后,是因为系统报表里只看见人工带来的延迟,看不见人工避免的灾难。刹车也会让车慢下来,但没人会说刹车削弱汽车核心价值。”
张磊压低声音:“除非他卖的是撞车体验。”
林桂兰掐了他一下。
林凡继续说:“人工兜底不是要每个按钮都让人点一遍,不是让城市回到纸笔时代。它是在高影响节点保留减速、确认、拒绝和追责的能力。没有刹车的快,不叫先进,叫失控前摇。”
苏晓接上:“法律上也一样。自动化建议可以提高效率,但不能消灭责任主体。越是公共系统,越不能把‘没人拍板’包装成‘系统自治’。”
唐代表翻开自己的文件:“但人工核心决策清单范围过宽。比如人群风险识别,如果每一次聚集都要求人工复核,系统预警的优势就会下降。”
应急负责人也有些犹豫:“现场有时候确实等不起。”
林凡点头:“所以清单不是禁止预警。它区分观察和处置。系统可以说某区域人群密度异常,可以建议现场人员查看,可以推送摄像头画面。但它不能直接把一群人标为高风险并触发封控、驱散或信息屏蔽。”
苏晓补充:“先看见,不等于先下判。”
陆航把一个流程图投出来。左侧是系统自动观察,右侧是人工处置确认,中间有三道硬闸:现场证据、责任人确认、影响范围记录。流程图并不复杂,复杂的是过去很多系统为了追求“端到端智能”,把中间三道硬闸折叠成了一个“自动优化建议”。
许既明一直沉默。唐代表看向他:“许总,你作为星穹技术负责人,应该最清楚系统延迟的代价。”
许既明终于开口:“我也清楚无责任优化的代价。”
唐代表脸色微变。
许既明说:“星穹过去把人工介入视为成本项,这是设计偏差。我们提高了吞吐,却低估了人类边界被压缩后的风险。人工兜底不应该出现在事故后,而应该出现在系统架构里。”
小许在后排低头,偷偷在群里发了一句:许总刚刚把“成本项”三个字捅出来了。
群里瞬间炸了。
有人发:他疯了?
小许回:不是觉醒,是良心函数跑偏。
本章未完,点击下一页继续阅读。