首富从AI浪潮开始 第318节

　　韩路一看完之后没有说话，把平板放回桌子上，目光投向对面坐着的两个人。

　　江松然开着电脑，皱着眉头，屏幕上是密密麻麻的算子列表和优先级标注，这些是报告的原始数据。

　　赵文渊坐在他旁边，手里拿着一杯生椰拿铁，神情看着比韩路一还要放松。

　　今天会议的主题是讨论接下来怎么在L100集群里进行模型训练。

　　说实话，这么短的时间里能把推理跑起来，就已经让江松然震惊过一次了。

　　这本身是以年计的工程量，在源智一个月就做出来了。

　　当然了，这里面江松然也是出了大力气的。

　　是他把在推理阶段可以绕过的问题都绕过去了，才把工程难度降下来，让汤圆及时上线。

　　但是现在要做训练，不只是那些没做的工作要做，之前推理阶段逃过的课也得一一补上。

　　“我先说说大方向。”江松然把电脑上的内容投影到了会议室的大屏幕上，“我们可以把这个项目分成两个阶段，一个是算子的阶段，适配做完之后，先在小集群验证，只能做一些小规模的训练，不超过7B。”

　　“第二阶段才是用这套东西组千卡甚至万卡级的大集群，这里面涉及很多卡间通信的挑战，我们之后再说。”

　　江松然指了指屏幕上列出来的密密麻麻的算子，最上面的十几行标了绿，中间还有几十行是黄色的，剩下的都是红的。

　　绿色是正反向都做完的，黄色是只做了正向、反向用了近似值的，红色则是完全没做、用近似实现代替的。

　　江松然说道：“前向算子只是第一层，真正麻烦的是训练需要反向算子，还要保证数值稳定。很多算子推理的时候能用近似实现，训练不行，要实现高精度，就得一点儿一点儿抠，这是个苦力活儿。”

　　说完他苦笑一声。

　　要是用CUDA，这个苦力活儿英伟达已经替你干好了，你只需要考虑怎么设计训练管线、训练策略就行。

　　现在用硅明的L100，他们的软件团队就不用指望了，所有的活都得源智的团队做，虽然最近招来的人都有丰富的调优经验，也做好了攻坚准备，但是这种事情急不得。

　　活儿多不可怕，但是你不能设置不合理的预期。

　　这些话江松然没说出来，因为韩路一在会议开头已经透露了一个意思：优先攻坚L100的训练能力，完成汤圆1.0的训练。

　　虽然他没说预期多长时间做完，但是你听听这个名字，现在发布的是0.9，要优先把1.0训练完，这个任务难道还能等一年多吗？

　　他只能把最乐观的估计说出来：“我估计，三个月能把一阶段做完，二阶段的通信要六个月，还要花六个月做算子调优——这是最保守的估计，十五个月以后，可以尝试做训练。”

　　实际上做过工程的人都知道，这种估计真做起来，花的时间翻倍都不止。但他实在是说不出口，让汤圆1.0三年之后再开始训练。

　　0.9都发布三年了，才训练1.0，你听听这是人话吗？

　　江松然对韩路一坚持不用任何云服务商的决定也了解，这是对数据安全的坚持。但是咱们现在只有国产卡，或者，如果实在是等不及，要不采购点英伟达的卡？先用着，也不耽误咱们做国产化，不丢人。

　　这话他也没说，等着韩路一的回应。

　　没想到，韩路一没说话，倒是这两天一直和江松然一起准备报告的赵文渊先开了口。

　　“我觉得三个月太长了，一个月，应该就可以把第一阶段的基本训练链路做完了。”

　　江松然震惊地看着身旁的赵文渊。

　　老赵，你知道自己在说什么吗？

　　这是训练，不是推理！

　　吹牛不是这么吹的，当着韩总的面，你要把牛皮吹破了。

　　这下他忍不住了，恨不得上去捂老赵的嘴：“不行不行，韩总，一个月肯定不行，你看看这表里多少算子呢。”

　　他知道韩路一的技术强，在他加入源智之前，韩路一也在早期的算子适配工作中做过贡献。

　　但他可太怕韩路一对这个项目的工程量有什么误解了。

　　现在源智团队里用的还是一个叫「算子打靶法」的工作方法。

　　这个工作方法还是当时韩路一提出来的。

　　所谓「算子打靶法」，就是对每一个要进行适配的算子，对标英伟达的算子，用御风来转换生成适配代码，只要达到英伟达对应60%的效率就算是达标。

　　这个60%是从当初的80%降下来的，为的就是让推理快速上线，牺牲一部分硬件的使用效率。

　　但是现在要做大模型的训练，60%就不够了，甚至80%都不够，得至少达到90%以上。

　　话是这么说，效率的提升难道是一件容易事吗？

　　御风生成起代码来是快，但是该做的验证的活儿一点也少不了，每一个算子的每一个参数得一个个试过去，找到对应L100这个硬件设计的最优解。

　　如果说60%试十次能找到，80%可能得试一百次，90%可能得试一千次。

　　这还只是一个算子的一个参数。

　　所以江松然才说做适配是个苦力活。

　　没想到韩路一没说话，赵文渊又开口了：“韩总，一个月，您觉得行不行？”

　　江松然已经无语了，什么行不行，你问老板这个，当然行，一个月之后咱们拿不出东西来怎么办？

　　那是肯定拿不出来，能做出十个算子都超出预期了。

　　韩路一听完，没有直接回答，而是思考了一下。

　　江松然期待韩路一听进去自己说的话了，能意识到一个月是一个多么不可思议的期限。

　　拒绝老赵，韩总，拒绝老赵啊！

　　“行，我试试。”在江松然默默的祈祷中，韩路一说。

　　江松然垂头丧气。

　　老赵啊老赵，你看，老板答应了吧？咱们可怎么办啊。

　　韩总说他试试。

　　——等等，韩总说什么？

　　他试试？

　　他试试什么？

　　赵文渊完全没露出意外的神色，满意的点了点头。

　　老爷爷果然靠谱。

　　韩总说行就是行。

　　江松然心里还没回过味儿来，韩路一又开口了：“江工，算子适配的事，你带着团队只需要负责逻辑没问题就行，具体的参数留给我，我来找。”

　　江松然这才反应过来，老赵这是给老板派活儿呢！

　　“您——您——”江松然“您”了两声，没出话来。

　　他想问的是，你凭什么觉得自己特别会调参啊？

　　但是这话问出来可不太好听。

　　赵文渊在旁边已经替他解释了：“韩总特别会读论文。”

　　韩路一听完，憋着笑点了点头。

　　好，文渊已经找到合理的解释了。

　　只剩下江松然还在原地风中凌乱，我单听说韩总写了早期的几个算子的实现，我不知道他要写所有的算子实现啊。

　　而且，调参都交给他是什么意思啊？

　　这是一个人能干的活儿吗？

　　赵文渊在旁边看着江松然整个人僵住的样子，轻轻拍了拍他的肩膀。

　　有些事实接受起来是要花一些时间的。

　　韩路一看了看手机的时间，会议快结束了，他拍了下手：“今天先到这，下一步的计划等我们把第一阶段的工作做完之后再安排。”

　　然后他对赵文渊说了一句：“文渊，我有个问题单独问你，一会儿来一下我办公室。”

? 第二百八十一章 你只管花钱

　　“韩总，什么事？”赵文渊坐在韩路一的办公室，开口问道。

　　他心里稍微有点儿忐忑。

　　韩路一把接满水的水杯放在赵文渊身前，然后在他对面的沙发上坐下。

　　“文渊，昨天的闭门会你也在场，关于在京城成立研发中心的事，你怎么想？”韩路一缓缓开口道。

　　赵文渊知道韩路一在暗示什么，但他干笑了两声，假装没听懂。

　　“韩总，我肯定是支持啊，京城的资源好。”

　　他说话的时候看了一眼韩路一，又把目光挪开了。

　　他有种内心被看穿的感觉。

　　“我想让你去当负责人。”韩路一说道。

　　赵文渊沉默了。

　　说实话，从理性上来说，出去独立领导整个研发部门，这对他的职业发展、对他在源智所掌管的资源，都是一个提升。

　　但是从感性上来说，他不愿意。

　　原因很复杂，他自己也说不出来为什么。