两位领导倒是没有架子,和韩路一握了握手,几人分别落座。
高大的那位是柳老,他先问了问国产算力这一块的进度。
韩路一既准备了列印资料,也带了盘装昨天做的幻灯片,但是看来现场没有放幻灯片的地方,他就先把列印资料递了过去。
资料很简短,没讲具体的技术细节,只说了大方向上的挑战和完成进度。
现在国产显卡基本是各自为政,料是堆上去了,理论数据也都很亮眼,但是却没办法跑训练,主要是缺乏英伟达CD体系的积累。
在算子层,国产显卡们实现的算子有限,和硬体的结合更是生硬,同样实现了的算子,只能跑出英伟达同级别卡二到四成的效率,想要通过兼容适配来过渡,又面临英伟达的专利限制。
现在源智做的事情,是把矽明L100推理相关的算子都优化完了,让L100能跑出100百分之八十多的效率。接下来的计划是把相关的算子都跑通,解锁训练的能力。
但是就算做完了,那也是矽明一家,矽明的产能和开发能力都很有限,算不得是产业突破。
柳老点了点头,这里面还是有含金量的。半导体是国家重点关注的产业,他了解的很深,生态这一块确实是大问题。
让私企做,这就像是个无底洞,人家没有动力去填,也怕填着填着,把自己填没了。
可要是国企来领头做这个事情,以前无数的经验证明,效率不高。
这个源智科技别的不说,如果能把这一条路跑通了,就算不能实现整个行业的突破,也算是打了一个好的标杆。
尤其是这个创始人,不卑不亢,进退有据,是个成事的苗子。
资料里的东西都过完了,柳老又问了一句:“小韩同志,你觉得破局的方向在哪?”
这句话是考察,但是他没指望韩路一能有答案。说到底,这不是企业层面需要考虑的问题。
没想到韩路一侃侃而谈。
“我觉得,现在之所以国产突围困难重重,是因为看不到方向。”
“现在我们在人工智慧基础设施方面的问题,不是通过在实验室跑通几个样例,或者在展会上做几个成果展示就能解决的。”
“我们做一线研发的,遇到的问题都很具体:比如同一个模型在不同算子组合下,显存占用和吞吐表现差异很大;比如当推理服务的用量大了,在晶片算力之外,还要涉及调度、通信、缓存、容错的策略;再比如要做训练,除了单卡能跑通之外,最重要的是大规模集群下的稳定性、通信效率、框架兼容和故障恢复。”
“所有的这些都不是在实验室里的问题,一定要落实到工业级的场景下去做。”
听到这,柳老和王老都被勾起了兴趣,坐在沙发上的身子微微前倾。
韩路一所说的,的确是现在最大的困境,实验室里做不出,企业又不愿意做。
“所以我的想法是,先做单点突破,证明技术路线的可行性,这个我愿意带头。”
“等到第一个跑通了,联合我们国内的厂商,加上一些国际上潜在的盟友,成立一个产业标准联盟,这样就可以把分散的力量集中起来。”
“这样,才能真正的突破生态和架构上的封锁。”
韩路一这一大段话说完,意犹未尽地端起眼前的茶杯喝了一口。
还挺香。
在韩路一说的过程中,柳老和王老都听得很专注。等他说完,王老微微点了点头。
这个年纪,能有这样的思想高度,着实少见。
两位领导的秘书站在沙发后面,手上拿着本子在记录,悄悄对视了一眼,都能从对方的眼睛看到震惊。
这里面最关键的,就是要把突破做成,一个成功的例子做出来之后,其他的厂商后面自然会跟上。
王老这时候开口,换了一个问题:“小韩同志,你觉得,做成这个技术突破,要多久?”