當天我們將會討論Stanford在2019年,課號STATS385(https://stats385.github.io/) 從10/16到10/30的三堂課,內容包括NTK、寬度無限的神經網路、與平均場方法。當天也會講到馬里蘭大學的"神經網路基礎",課號CMSC 828W第7講(https://www.youtube.com/watch?v=DObobAnELkU)。
學習科技
Neural Tangent Kernel 簡介
119
0
2021.07.02 (Fri) 14:00 - 16:00 (GMT+8)加入行事曆
尚未公布
1.Neural Network Gaussian Process(NNGP) Kernel在MLP中的傳遞
2.Neural Tangent Kernel(NTK)簡介:
2.1 線性回歸問題複習
2.2 Kernel方法介紹
2.3 Lazy Learning
2.4 NTK與神經網路(NN)訓練的動力過程
3. 基於無限寬NN、NTK、NNGP,解析推導NN泛化能力指標--預測的平均值與標準差。
4. 線性回歸訓練過程的解析分析:對double descent來源的啟示。
1.Neural Network Gaussian Process(NNGP) Kernel在MLP中的傳遞
2.Neural Tangent Kernel(NTK)簡介:
2.1 線性回歸問題複習
2.2 Kernel方法介紹
2.3 Lazy Learning
2.4 NTK與神經網路(NN)訓練的動力過程
3. 基於無限寬NN、NTK、NNGP,解析推導NN泛化能力指標--預測的平均值與標準差。
4. 線性回歸訓練過程的解析分析:對double descent來源的啟示。
活動簡介



