學習科技

Neural Tangent Kernel 簡介

119
0
2021.07.02 (Fri) 14:00 - 16:00 (GMT+8)加入行事曆
尚未公布
1.Neural Network Gaussian Process(NNGP) Kernel在MLP中的傳遞 2.Neural Tangent Kernel(NTK)簡介: 2.1 線性回歸問題複習 2.2 Kernel方法介紹 2.3 Lazy Learning 2.4 NTK與神經網路(NN)訓練的動力過程 3. 基於無限寬NN、NTK、NNGP,解析推導NN泛化能力指標--預測的平均值與標準差。 4. 線性回歸訓練過程的解析分析:對double descent來源的啟示。
1.Neural Network Gaussian Process(NNGP) Kernel在MLP中的傳遞 2.Neural Tangent Kernel(NTK)簡介: 2.1 線性回歸問題複習 2.2 Kernel方法介紹 2.3 Lazy Learning 2.4 NTK與神經網路(NN)訓練的動力過程 3. 基於無限寬NN、NTK、NNGP,解析推導NN泛化能力指標--預測的平均值與標準差。 4. 線性回歸訓練過程的解析分析:對double descent來源的啟示。
活動簡介

當天我們將會討論Stanford在2019年,課號STATS385(https://stats385.github.io/) 從10/16到10/30的三堂課,內容包括NTK、寬度無限的神經網路、與平均場方法。當天也會講到馬里蘭大學的"神經網路基礎",課號CMSC 828W第7講(https://www.youtube.com/watch?v=DObobAnELkU)。

avatar

NY

Neural Tangent Kernel 簡介

2021.07.02 (Fri) 14:00 - 16:00 (GMT+8)

loading