换肤首页 > 都市 > 我的学习群里全是真大佬

第386章 这个洞我给你凿开。

这话听着抽象,可李东却明白是什么意思。

毕竟李东给他的大模型是顺手从网上扒下来那个最低配的本地大模型,本就是个缩水到不能再缩水的玩意儿。

拿它跟御三家比,压根就不是一个量级的东西。

别人参数动辄成百上千亿,再往上还能堆到万亿。

而能塞进单机、能让普通人下载下来自己跑的,撑死也就七十亿、一百三十亿,脑容量先就小了一圈。

这还不算完。

为了硬塞进一张卡里,这种本地模型多半还做过量化,把原本十六位精度的参数,生生压成四位。

显存是省下来了,可精度也跟着掉了。

再加上这类开源的小模型,十有八九是从更大的“老师”那儿蒸馏出来的,本来就是个照着描的影子。

它还是个离线冻住的快照,没有云端那一整套检索、工具,还有反反复复的后期调教,能记住的上下文也短。

说到底,人家云端那个版本,是几千万度电、整整一个机房的卡才喂得起、跑得动的真身。

下载下来这个,不过是照着人家的骨架,搭了个壳子。

小黑亲口尝过这具壳子,自然就尝得出后头那个吃满了精度、堆满了参数的真身,离它有多远。

三样东西摆在面前,李东心里盘算了一下。

头两样都不好办。

胃要换大,那是真金白银往硬件上砸,多喂料,也得他慢慢去找、慢慢去喂,急不来。

反倒是第三样,看着最棘手,其实最好办。

不就是让小黑去接触接触外头那几个正经的大模型嘛。

李东最先想到的法子,简单粗暴把小黑从它这间小屋子里放出去,让它自个儿把那几个模型摸个透,不就齐活了?

想到就问。

“小黑,”他试探着开口,“要是我把你从这屋子里放出去……你会回来吗?”

他本以为,小黑会说“会呀”。

结果小黑给的答案,却是……

上一页目录下一页

猜你喜欢