换肤首页 > 都市 > 首富从AI浪潮开始

第二百八十八章 你不知道NullPointer是谁?

范小天又把外卖的事情忘在脑后了,他现在满脑子想的都是一件事。

这个实现——

效率怎么样?

因为没有性能分析工具,他没办法读取l100显卡上的各项指标,像m(tamn mltpc,流式多处理器)利用率、显存读写效率这些东西,也就没法计算这个实现的运算效率到底有多少。

但是还有个取巧的法子,也是源智团队一直在用的。

读不了指标没关系,可以直接计时运算时间,再和英伟达的卡比一比,看看能达到竞品卡的多少效率就可以了。

按说这个阶段还没到测效率的时候,但是看着这么优雅的代码,范小天忍不住了。

万一呢?是吧?

范小天迅速搭了个简单的计时基准:同样的batch大小,同样的序列长度,同样的运算,分别在手头的l100和一张组里共享的h100上跑,计时,对比。

这张h100可是传家宝,也不知道江工是从哪里搞来的,组里一起用来做性能测试的,大家都宝贝不了。

参数设好,范小天看着提交键咽了口口水,才按了下去。

进度条跑起来,这次等的时间稍微长一点点,因为性能测试要连续测好几轮,取平均值,这是为了保证测试的稳定性。

大概三分钟。

结果出来了。

l100平均每步用时4.6毫秒。

对标的英伟达h100平均每步用时4.8毫秒。

比英伟达还快!

比英伟达的h100还快!

范小天把脸凑近了屏幕,又看了一遍。

他以为自己看错了。

他又往后退了退,眯着眼睛,又看了一遍。

百分之一百零四点二。

之前源智团队一直是把运算效率达到了h100的百分之多少作为性能测试的基准的。

但是这次是l100直接超过了h100,超了百分之四点二!

上一页目录下一页

猜你喜欢