首页 > 都市重生 > 首富从看见信息面板开始 > 第二百四十四章 他还没看过图吧

第二百四十四章 他还没看过图吧(2/2)

目录

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

可韩路一理解起来毫无障碍。

他几乎一瞬间就定位到数据阻塞的来源。

有几组推理组之间的通信出了问题:节点之间没有物理直连,逻辑上却被分在一起;数据从一处绕远路跑到另一处,再绕远路回来。

看似只是一个小点,可在大模型推理的并行通信里,这种细微差别会被反复放大。

韩路一开口:“不是模型的问题。”

赵文渊一愣:韩总,你已经解决了?这么快?

韩路一回头看了他一眼,发现赵文渊没有要问的意思。

他随即用对讲机和外面联系。

“问题在网络拓扑。”韩路一说。

声音通过对讲机、再经视频传到江松然耳朵里。他马上在电脑上翻找原始网络拓扑图。

那是他自己设计的,为的是把集群效率打满。

张彪很快换好衣服,拿着打印好的拓扑图进来。

图与实际一对比,问题很快显出来。

江松然原本的设计,是为降低推理组之间的通信延迟,把几个关键节点尽量放进同一个低延迟域。

可云垠实际交付时,没有完全按这张图部署。

他们用了内部更标准、更易维护的方法。

普通服务器对通信延迟不敏感,这种接法完全没问题;为可维护性做点小牺牲,大家都能容忍。

可放到大模型场景里,这点小延迟会被放大很多倍。

单点测试当然没问题,整机测试也没问题——问题出在服务器间的通信。

江松然的推断其实没错;再给他一点时间,加上赵文渊现场排查,他们应该也能查出来。

只是没韩路一这么快罢了。

赵文渊看着两份图,脸色很难看。

他昨晚查了一整夜:GPU、驱动、配置、算子、服务、调度,全查了;结果问题不在任何他能看到的软件层面。

偏偏出在机房布线。

还好韩总亲自来了,赵文渊心想。

视频那头,江松然咽了口口水——韩总怎么看出来的?他之前是不是连这张原始网络拓扑图都没看过?

张彪已经迅速叫来现场运维工程师,通过节点间测速确认了问题。

排查完,修复就容易了。不到十分钟,刘然带着两个人跑过来。

“韩总,韩总!实在不好意思。”刘然气喘吁吁地说,“不知道你已经到了,不然我肯定全程陪同。听说你这边发现了点问题?”

张彪上前解释。

刘然脸色有点难看。

这事明显是云垠做错了:明明是要讨好的客户,怎么第一件事就没办好?

“韩总,我的。”刘然赶紧说,“我现在就叫人来,加班加点给你换好。”

韩路一背后有国网电力投资,那是刘然巴结都巴结不上的资源。

韩路一倒不在意这些表面功夫,只想看修复后每秒请求数能达到多少。

眼下争分夺秒,只要能做到三十以上,就是胜利。

刘然带来的人真是加班加点、全力以赴;几个小时后,线路按拓扑图要求重新接好。

赵文渊再次运行压测程序。

每秒请求数缓缓上升。

八。

十六。

二十七。

三十九。

五十一。

最后停在五十一,离理论极限还差一点。

可理论归理论,实际能做到这个水平,已经相当厉害。

这就是江松然设计链路的含金量。

看到这个结果,在场所有人都松了口气,包括一直等着结果的刘然。

韩路一看着机房中一排排亮起的服务器指示灯。

汤圆,他制作的第一款大模型,终于在属于自己的集群上运行起来。

从这一刻起,他有了自己的通用大模型——从头到尾,视界出品。

目录
返回顶部