换肤首页 > 都市 > 首富从AI浪潮开始

第二百八十章 给老板派活儿

毕竟等到真的扩张快起来的时候,总不能所有的骨干和管理人员都靠从外部招聘,那样企业文化很快就变质了。

说到这一点,韩路一其实对姜亦心上周五开始计划的那个项目颇感兴趣,也不知道进展的怎么样了。

正想着,刘彧在外面敲了敲门。

“韩总,两分钟之后您和赵总、江工有个技术会议,现在过去吗?”

“这就来。”

……

会议室里,韩路一拿着一个平板,正在看l100的算子适配评估报告。

这是江松然和赵文渊最近加班加点搞出来的。

自从收购硅明的事情敲定之后,下一步的发展路线也确定了,两个人把全部的精力都放在了这个项目上,才做出了这么一份报告。

韩路一看完之后没有说话,把平板放回桌子上,目光投向对面坐着的两个人。

江松然开着电脑,皱着眉头,屏幕上是密密麻麻的算子列表和优先级标注,这些是报告的原始数据。

赵文渊坐在他旁边,手里拿着一杯生椰拿铁,神情看着比韩路一还要放松。

今天会议的主题是讨论接下来怎么在l100集群里进行模型训练。

说实话,这么短的时间里能把推理跑起来,就已经让江松然震惊过一次了。

这本身是以年计的工程量,在源智一个月就做出来了。

当然了,这里面江松然也是出了大力气的。

是他把在推理阶段可以绕过的问题都绕过去了,才把工程难度降下来,让汤圆及时上线。

但是现在要做训练,不只是那些没做的工作要做,之前推理阶段逃过的课也一一补上。

“我先说说大方向。”江松然把电脑上的内容投影到了会议室的大屏幕上,“我们可以把这个项目分成两个阶段,一个是算子的阶段,适配做完之后,先在小集群验证,只能做一些小规模的训练,不超过7b。”

“第二阶段才是用这套东西组千卡甚至万卡级的大集群,这里面涉及很多卡间通信的挑战,我们之后再说。”

江松然指了指屏幕上列出来的密密麻麻的算子,最上面的十几行标了绿,中间还有几十行是黄色的,剩下的都是红的。

绿色是正反向都做完的,黄色是只做了正向、反向用了近似值的,红色则是完全没做、用近似实现代替的。

江松然说道:“前向算子只是第一层,真正麻烦的是训练需要反向算子,还要保证数值稳定。很多算子推理的时候能用近似实现,训练不行,要实现高精度,就一点儿一点儿抠,这是个苦力活儿。”

说完他苦笑一声。

要是用ca,这个苦力活儿英伟达已经替你干好了,你只需要考虑怎么设计训练管线、训练策略就行。

现在用硅明的l100,他们的软件团队就不用指望了,所有的活都源智的团队做,虽然最近招来的人都有丰富的调优经验,也做好了攻坚准备,但是这种事情急不。

活儿多不可怕,但是你不能设置不合理的预期。

这些话江松然没说出来,因为韩路一在会议开头已经透露了一个意思:优先攻坚l100的训练能力,完成汤圆1.0的训练。

上一页目录下一页

猜你喜欢