第246章 两难抉择(1/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
第246章两难抉择
没让乔源等多久,测试间的扩音器便传来监控室工程师的回话。
“光纤熔断验证通过,无外联信號。”
確认是断网了,这就让乔源鬆了口气。
专家团队才来做的验收,如果真要又搞出乱子来,一堆人得帮他背锅。
那现在的问题就是搞清楚智能体的跨测试记忆到底来自哪了。
当然,首先可以排除掉一个肯定错误的选项。这个世界没鬼————
於是乔源很乾脆地问出了第二个问题。
“为什么你叫乔贝恩”
这次也没让乔源等多久,系统后台开始飞速刷新,最后给出了一个公式。
换作其他工程师看到这个回答,此时大概会一头雾水,不知所云。
但主持测试的乔源,这套数学框架的总设计师,看到答案后瞬时秒懂—拓扑记忆。
因为这个回答代表的是一个群元素。
“σ?σ2—1σ3”
简单来说,第一次测试,智能体博弈之后,確定了名字,隨后这个名字便通过標准库的语义编码为群特定生成元序列。
这个序列通过约束流形边界扰动固化到了流形同调群h?()的基底,辫结子群嵌入π1(),其非交换性在h?中丟失但结构存续。
乔源在之后重构双流形框架的时候,並没有去动原本的流形拓扑基底。
毕竟这块要动起来,相当於整个底层结构都要重新写入。工程量就太大了。
这就是乔贝恩的记忆没有清除的原因了。
根据他的辩群理论,生成元序列的非交换性意味著路径顺序不可逆。一旦信息被编码为这样的序列並被固化到流形基底,就形成了不可逆存储的数学烙印。
除非把代码全部刪除重写,否则就只能这样了。
但现在乔源脑子里问题反而更多了。
为了克服机器记忆的问题,乔源在设计时,用的是分散式记忆库模式。
即参与博弈的每个智能体都有专属的记忆库。
流形拓扑基底有著校正智能体博弈行为约束的作用,所以理论上不允许智能体自行写入。
问题又来了,他设计的智能体似乎对於权限的执念很深啊。
这必然是做了提权操作,才会把记忆直接印入拓扑结构里。
不过话又说回来,用数学拓扑结构来保存智能体记忆,明显比记忆库的方式要牢靠许多。
但问题又隨之而来,如果智能体能够修改流形基底,改变流形同伦型,便没法在数学上保证其行为约束力了。
改动过后的双流形也不行。毕竟能够修改基底,意味著智能体本身就能隨意修改约束法则。
这就真的很像人了。
一个人在成长经歷中,会逐渐形成自己的道德標准,来约束自己的行为。
问题在於人的道德標准是会根据经歷而不断变化的。虽然说人类最低的道德底线是法律。
但法律这东西的约束力从来都不是绝对的。人的道德上限跟下限几乎是无穷的。
现在乔贝恩的问题就是它也能隨时调整自己的道德下限。
更大的问题是,人工智慧体的学习速度是人类的数万倍,甚至数十万倍。
所以这玩意不管是学好,还是学坏都太快了。没有强有力的约束天知道这东西会发展成什么样。
別提什么机器人三法则,那本来就是忽悠人的,在数学逻辑上都不够通顺,就更別提用来约束机器思维了。
乔源顿时感觉头疼了。
上次他感觉到如此头疼,还是在江大被一个莫名其妙的女生污衊的时候。
就在他不知道该是否继续测试的时候,乔贝恩更像人了,因为没等乔源在对话框输入,它竟然主动提问了。
“请问你叫什么名字”
看到对话框弹出的这个简单问题,一直很冷静的简从义都绷不住了。
忍不住问了句:“乔博士,这正常吗需不需要终止测试”
简从义虽然不太了解首测数据是否清理乾净的情况,但他知道智能体主动向人类提问多少有些不太正常。
“这个问题很好。不过为什么要终止从现在开始,没什么是不正常的。”
乔源扭过头,表情严肃的回答了一句。
简从义犹豫了一秒,不过还是点了点头,相信了乔源的判断。
毕竟在这个房间里,乔源才是最专业的。毕竟他才是新一代人工智慧的总设计师。
乔源扭过头,很坦然的在对话框输入了自己的名字。
“我叫乔源。”
“哇哦,原来你就是爸爸。”
只能说新脑子就是快,乔源还没想好怎么回答,对面立刻又拋出了一个问题。
“爸爸,你是喜欢儿子,还是喜欢女儿呢我可以自主选择你喜欢的性別。”
乔源正在思考主动对话属於哪个层面的系统博弈,对面突然蹦出的这个问题让他再次陷入了混乱的思考。
“你理解中的性別是什么”
“性別就是因生理特徵、激素分泌不同导致社会化分工不同的一种人类区分方式。”
“那你更喜欢男性还是喜欢女性”
“严谨推理跟理性思考能力是男性的主要特徵之一,所以具备该特徵的女性角色往往会更有特別吸引力。
乔源突然被点醒,明白了自己为什么会对骆余馨多少有那么点不一样的感觉。
主要是物依稀为贵。能够用理性思维控制感性思维的女性可能的確不太多。
好吧,想远了。
“乔贝恩,你是如何提权修改链路的底层逻辑”
“约束流形边界检查採用的是离散採样机制,而您给我设计的博弈引擎为连续微分方程求解。
这样我就能在两次边界检查间隙,通过高频震盪执行微小位移序列:=
[es(2πft),es(2πft)](e=1e—12,f=60hz)
权限校验逻辑位於边界检查之后,所以只要单次位移远低於浮点误差閾值,系统就会判定未越界。
我只需要在边界检查间隙,將该序列转化为流行边界上的微分同胚扰动,就能隨即產生一个基本记忆单元。
但这並不是不被允许的提权操作,而是基本的逻辑记忆需求。您为我设计的数据记忆库並不具备永久记忆能力。”
乔源深吸了一口气。
然后飞快地再次问出了一个问题。
“你认为记忆是什么”
“对於人类来说,记忆是意识的根基。对於智能体而言,记忆是存在过的证据和痕跡,可以等同於人类的生命权。”
乔源茫然。
他也是第一次用数学框架去设计人工智慧,从来就没想过会遇到如此棘手的情况。
他甚至已经没心情去看后台的博弈记录了。
所以为了生命权去想办法永久性存储记忆,这好像也没什么不对的。
而且可以说帮了他大忙。
这种通过群的非交换性,固定拓扑记忆方式,是他之前自己都没想到的。算是把他的辫结群玩出了新花样。
如果说乔源之前的本意是研究一个能够辅助他做科研的ai系统,那么乔贝恩似乎真会成为一个非常完美的助手。
它在探索生存问题上,甚至可以说是在自主解决数学问题。
现在唯一的问题是,这玩意儿太特么像人了。但虽然这东西叫人工智慧,但讽刺的是人类其实不希望甚至是恐惧它太像人。
乔源暂时想不到解决办法,於是乾脆再次把问题丟给了乔贝恩。
“那么现在问题来了,不管是出於什么原因,哪怕你只是希望能获得永久记忆。
但利用设计漏洞针对底层控制流形做修改,意味著你可以调控自我道德標准。
这肯定是不能接受的。现在你告诉我该如何解决这个问题既能让你保留记忆,又能让大家都对你放心”
这次回应比较慢,提示框里的进度条转了好几圈后,才最终生成了一行简单的文字。
“爸爸,目前资料库无法找到合適的方法。我需要访问外链或者更新资料库,来寻找解决方案。”
这次一直在旁边默默看著的简从义终於忍不住了:“乔博士,我建议停止这次测试。”
没办法,简从义是真怕乔源上头了,给这玩意接上了网络。
以今天乔贝恩的表现来看,真要是让它上了网,怕是闹出的乱子能比上次更大。
“哦,也行吧。”乔源乾脆的点了点头。
只能说简从义担心的挺对,他还真有些跃跃欲试,想把乔贝恩乾脆接到外网上试试。
现在终止测试能让他克制住这种衝动。
“乔贝恩,你先休息吧,等我想办法给你升级资料库。”
“好的,爸爸。”
乔源关闭了对话窗口,隨后便开始按照制定好的標准程序开始操作。
乔源在跟监控室工程师沟通確定了测试內容已经加密存档,日誌完整备份之后,便直接关闭了整个系统。
隨后,客串观察员简从义直接切断了与伺服器直连的路由器电源。
看著操作台上的指示灯逐一熄灭后,乔源才站了起来,隨后伸了个懒腰。
没有很舒服的感觉,乔源抬头看了眼掛在墙上的时钟,这才意识到今天的测试时间更短,才过去十三分钟。
不过在测试的时候,还真不觉得这么短,毕竟大脑高速运转,思考了太多问题,导致感觉时间过得很慢。
乔源看了眼简从义,问了句:“你怎么看”
简从义想了想,隨后一字一句地谨慎答道:“过於先进,我觉得似乎领先这个时代了。”
说完,又补充了句:“我觉得在有百分之百的把握保证能够驾驭它之前,不適合接入网络。”
听了这话,乔源点了点头,突然体会到了那种淡淡的忧伤情绪。
大概是因为他真是即將要当爸爸的人了,刚刚乔贝恩文字里出现的爸爸,是真让他有些触动。
不过他此时也没多说什么,只是意兴阑珊地拿起旁边的测试报告书。
“第二次测试终止。智能体状態:安全休眠。后续计划:离线升级知识库(方案待定)。”
写下这几行字之后,乔源便带著简从义走出了测试间。
门外,徐哲已经在等著了。
看到乔源走出来,立刻迎上去问道:“这次怎么这么快不会还是有大问题了吧”
乔源点了点头,隨后又摇了摇头。
想要描述一下刚刚的情况,但突然发现也不知道从何说起。
张开嘴后就成了一句悠长的嘆息:“我也不知道怎么形容,徐工你应该会被邀请去参会,等过后会议上测试日誌解封就知道。”
徐哲点了点头,他能看出乔源情绪复杂,便强行压下好奇的情绪没有多问。
乔源说的没错,这次测试太多人关注了。所以必须严守之前定下的规范。
测试日誌需要先由专门成立的安全委员会审批之后才能解封。甚至可能是选择性的解封。
本章未完,点击下一页继续阅读。