苏念念出门没多久,韩路一又把她发来的资料仔细看了看,给刘彧挂了个内线电话。
“帮我问一下江松然现在在不在。”
过了几分钟,刘彧回了过来:“韩总,江松然总在办公室,要我让他过来吗?”
“不用,我们过去找他。”
韩路一说完起身出门。
他现在关心的是算力的实时情况,又没让江松然提前在准备,去江松然那边,数据调取起来方便,真让他过来汇报还耽误时间。
韩路一来到江松然的办公室,江松然已经等在门外了。
“韩总。”
“走,进去聊。”韩路一说完率先进门,进门之后也没有坐,直接开口询问,“你从京城回来之后一直忙着算力的事,现在进展怎么样了?”
江松然猜到韩路一会问这个,毕竟这既是公司战略,也是他最近的工作重心,所以提前做了点儿准备。
江松然到电脑前把实时监控的数据面板调出来:“韩总您看,现在正在运行的推理和训练集群。”
韩路一简单看过之后,迅速问出了自己最关心的问题。
“j590和龙腾2000大概能做到多少效率?”
听了这个问题,江松然的表情有点儿尴尬。
韩总看问题真准,问的恰好是现在最不好看的数据。
“从上一次跑的基准看,j590能跑到理论算力的80%,龙腾2000只有63%。”江松然说道。
只有这么低吗?
韩路一思考了起来。
现在看,他最一开始所设想的、用中间层来聚合国产算力联盟的方向没有错,在推理方向也已经踏出了坚实的第一步,现在同意接入这一套推理框架的国产厂家就有好几个。
但是现在的问题是,这套中间层是原生适配当初硅明l100的底层硬件的,尽管工程团队在抽象化的时候已经尽量做到硬件无感知,但是有些底层实现没有就是没有,其他厂商的设计,在接入这个中间层的时候,是有性能损失的。
当然,这并不能说中间层的路线是错的,毕竟如果让各个厂商自己实现,他们连跑通都还没跑通,接入中间层是省时省力的做法,但是又必须接受性能损失,只能说鱼和熊掌不可兼。
韩路一突然问道:“龙门半导体那边是你带团队去适配的?”
“是他们带了人过来,在4楼的实验室和我们一起做的适配。”
韩路一挑了挑眉,他和龙门半导体的张总只谈了用优先购买权换适配合作,剩下的都是团队们自己交流的,他倒是没想到工作是在起源大厦里完成的。
摊子大了果然不可能面面俱到了。
:
“这个适配效率要再往上提,还要多久?”
江松然摇了摇头:“我们只是紧急完成了初期的适配,让这些卡赶紧上线派上用场,现在配合龙门那边继续提升效率,性价比不太高,不如让团队去对接其他的厂商。”
确实是这个道理,只是这样一来,不同类型计算卡的集群之间算力差距好像有点大。
“可以混合调用吗?”韩路一问道。
“这是我们团队正在研究的一个方向,但中间还有一些技术挑战没有克服。”江松然答道。
韩路一拉开椅子坐下来:“展开说说。”
江松然愣了一下,问道:“多展开?”
韩路一说道:“你就假设我是一个5岁孩子,尽量把这个问题给我讲明白。”