换肤首页 > 都市 > 我的学习群里全是真大佬

第394章 知己者,莫若东也

它能存,却不能替李东啃透。

那些论文这一篇是讲损失景观,那一篇是讲泛化,另一篇又在讲什么核方法,李东完全没办法将它们有序的关联起来。。

而姚先生此刻在上讲的这些,就像一根针线,终于将这些串联了起来。

损失景观为什么会连成片,连成片之后梯度下降凭什么偏心,偏心又怎么扯到了核方法的头上……

原来,它们讲的是同一件事。

……

就在李东顺着这根线往下捋的时候。

上的姚先生,忽然停了下来,低头看着教案,似乎是在等底下的同学消化。

教室里,一下子就静了。

李东还沉浸在刚才的思路里没出来,姚先生讲的那个懒惰训练有个地方他一时没搞明白。

于是他下意识地就喃喃自语了一句。

“……可它要是一直这么懒,那它到底是从什么时候起,才真正学到东西的呢?”

声音不大。

可教室太静了,这一句话就显得格外的清楚了。

姚先生本来还低头看着教案,听见这一声,他擡起了头。

目光落到后排的李东身上,他笑了笑。

“李东教授,你这个问题,问得很好,”老人慢条斯理地说道,“网络要是真就一直这么懒、一直围着起点打转,那它顶多算个换了身皮的核方法,谈不上学到什么新东西。它真正开始学,是从它肯挪窝、肯把那些旋钮往远了拧、在底层自己长出一套有用特征来的那一刻起的。”

“这中间隔着的那道坎叫逃离 NTK机制,进入特征学习。”

“至于这道坎卡在哪儿,又该怎么迈过去……”

姚先生笑着摇了摇头。

“这恰恰是现在还没有几个人能说清楚的事。”

上一页目录下一页

猜你喜欢