首富从AI浪潮开始 第333节

　　随着一声声指令下达，一排排指示灯从远处亮起。

　　绿色的光像潮水一样，从第一排机柜一直蔓延到最后一排。

　　低沉的风声和水泵声渐渐变大，像一头沉睡的巨兽正在醒来。

　　江松然站在监控屏前，盯着上面的数字。

　　供电正常。

　　温度正常。

　　液冷流速正常。

　　单卡自检正常。

　　第一轮测试很顺利。

　　张彪松了一口气，旁边几个运维组的人也忍不住交换了一下眼神。

　　但是江松然知道，真正的挑战才刚开始。

　　之前的五百卡是跑在同一个集群里，现在的八千一百九十二张卡可以分成了十六个集群，每个的上限都在五百一十二张卡。

　　这次布线能不能把新的十六个集群都提到跟老集群一样的效率，甚至，还能不能扩大成更大的集群？

　　以前没有这么多卡，没法试，这次可以试试了。

　　江松然在机房的控制终端前坐下，开始进行压力测试。

　　他没一上来就跑五一二卡，而是先从八卡开始。

　　一般八张显卡会放在一张服务器上，也叫一个节点，这八张卡之间的通信叫做节点内通信，速度更快。

　　每个机柜会有八台服务器。

　　五一二卡就是八个机柜。

　　从节点内通信到节点间通信，再到机柜间通信，每一步都是一个难度升级。

　　随着测试进入到五一二卡，监控屏幕上的曲线已经不是平滑上涨了，可以见到斜率变缓的趋势。

　　看了一会监控，江松然更改设置，把两个五一二卡的集群并在了一起。

　　新任务下发。

　　这一次，监控屏的曲线发生了明显的变动，延迟迅速上升。

　　监控屏上出现了一片红色。

　　“失败了啊——”江松然苦笑了一声。

　　这其实是预料之中的事情。

　　大型显卡集群需要从硬件到软件到通信协议各个层级的优化才能实现。

　　源智的L100集群现在用的是东拼西凑来的各种开源技术，还没来得及进行任何优化。

　　能达到五一二卡的集群规模已经是谢天谢地了，想要在什么改动都不做的情况下去冲千卡，只能是坠机收尾了。

　　韩路一收回视界，满眼的红光从视野中消失。

　　视界定位的结论是：注意力层之后的归约通信，几个任务分片同时撞上了同一批物理链路，触发了跨排链路堵塞。

　　他正准备开口，江松然先说话了。

　　“通信模式和物理拓扑对不上。”江松然指着屏幕上的波形说道，“你们看，每次拥塞都在注意力层之后，几个分片同时在跑归约运算，一起发到跨排链路上了，所以每个尖峰都在注意力层后面。”

　　赵文渊抱着手站在旁边，开口了：“是因为通信协议？”

　　“是啊，是因为通信协议。”江松然确认道。

　　然后江松然转向韩路一，语气遗憾：“韩总，现在用的通信模式在五百卡已经是上限了。”

　　江松然和赵文渊得出了与韩路一一样的结论。

　　区别是，韩路一是开挂看出来的，视界直接帮他定位到了数据阻塞的地方，也给出了原因。

　　而江松然和赵文渊却是凭借他们多年的实战经验和技术理解得出的结论。

　　果然，顶级技术专家的含金量在这里就体现出来了。

　　人才虽然贵，但贵有贵的道理。

　　韩路一暗自点头。

　　视界再厉害，他也只是一个人，他不可能自己攻克所有的技术难关。

　　团队里有了赵文渊、江松然，以及新加入的薛兆恒这些各个方面的人才，才是源智走得更远的底气。

　　韩路一的脸上没有失望的表情，反过来安慰两人：“没事，能增加十六个五百卡集群，对我们来说已经是个巨大的进步了，路要一步一步走，饭要一口一口吃。”

　　“我们现在最迫在眉睫的任务是解决推理算力的问题，推理请求对显存和卡间通信的需求都没有那么大，现在我们有之前十七倍的算力，汤圆的潜力终于可以被释放出来了。”

　　这话江松然当然也知道。

　　超大集群主要是训练的需求，推理不需要。

　　如果按照正常公司的流程，现在要么是采购英伟达的硬件，使用现成的解决方案。

　　要么就是还远远没有到需要自研超大集群通信的进度。

　　源智能走到今天这一步，发展过程就像是坐上了火箭。

　　原本在江松然看来，光解决算子适配的问题就得花几年时间，经过这几天的离奇经历之后，他把这个预期调整成了几个月。

　　所以，几个月之后，超大集群就得建起来。

　　所以，一个原本他以为短期内都不会遇到的问题突然变得棘手了起来。

　　源智现在撞上了一堵墙。

　　这是一堵到现在为止，只有英伟达跨过去了的墙——

　　显卡间通信效率。

　　韩路一看着监控屏幕上满屏的红色警告，笑了一下：“我们会找到办法的。”

　　江松然看了看完全没有担心神色的赵文渊，又看了看韩路一。

　　不知道为什么，他心中也生出一股自信来，不仅是对源智科技团队的自信，也是对韩路一的自信。

　　之前认为解决不了的问题都解决了，难道现在会在这里被卡住吗？

　　不会的。

　　江松然没再说话，转身回到了控制终端前，把刚才的测试日志导出来，为下一步技术突破做准备。

? 第二百九十三章 没什么威胁

　　美国，加利福尼亚州，圣克拉拉县。

　　英伟达竞品研究组的实验室里，一张崭新的计算加速卡被放在防静电垫上。

　　银灰色的散热外壳，黑色的印刷电路板，边角处还有精致的镂空标识。

　　Sili-Lumin L100，Made in China。

　　实验室里的工程师和研究员们没给这张计算加速卡过多的关注，虽然是总监亲自下达的检测任务，甚至还给出了明确的截止日期。

　　但是对工程师们来说，这不过是“另一个”。

　　另一个对标英伟达旗舰的追赶者，另一个号称可以挑战英伟达的初创企业。

　　他们见得太多了。

　　每年都有个新公司跳出来号称自己研发了新的运算芯片。

　　美国的，欧洲的，中东的。

　　当然了，最多的还是中国的。

　　但是不管发布会做的多么酷炫，纸面的数据多么惊人，到了实验室里的结果都至少打个五折——有的甚至打一折。

　　两个工程师整齐地穿戴着静电服在连接线路。

　　其中一个人开口了：“怎么，又是一个‘H100杀手’？”

　　另一个人摇了摇头，没开口——她懒得进行这种无聊的嘲讽，设计者又不在场，她只想赶紧把检测做完。

　　第一个人看她没反应，也没再说话。

　　接好监测装置之后，两人回到控制台。

　　第一个人翻了翻样品登记表格，发现了点儿让他感兴趣的东西。

　　这张加速卡不是官方送测的样品，而是英伟达在公开市场采购的一张量产卡。

　　一张量产卡，还是一张他们没听说过的量产卡。

　　有意思。

　　“嘿，看看这个。”他跟沉默的第二个人招了招手。

　　第二个人走过来看了看，没表现出特别的兴趣：“按照标准流程测试吧。”

　　开机，启动。