PRML Page-by-page部分要点汇总—Chapter5
B站专栏引用视频无法指定播放时间，请大家手动拖拽至相应时间
第五章 Neural Networks
第五章整体内容结构：PRML Page-by-page chap5-5_prev （00分00秒，--）
神经网络与感知机的关系及logistic、Relu、Gelu三种函数定义：PRML Page-by-page chap5-5.0 (00分58秒，Notes 5-002)
跳层神经网络及如何用Sigmoid函数模拟跳层效果：PRML Page-by-page chap5-5.1 (07分45秒，Notes 5-009)
万能近似器：PRML Page-by-page chap5-5.1（11分44秒，Notes 5-011）
神经网络权重参数对称性：PRML Page-by-page chap5-5.1（14分50秒，Notes 5-012）
参数优化的局部最优解讨论：PRML Page-by-page chap5-5.2（08分23秒，Notes 5-020）
误差函数的二次近似：PRML Page-by-page chap5-5.2（12分15秒，Notes 5-021）
利用梯度信息求网络参数二阶导的复杂度：PRML Page-by-page chap5-5.2（17分24秒，Notes 5-022）
共轭梯度法和拟牛顿法：PRML Page-by-page chap5-5.2（19分27秒，Notes 5-023）
BP算法：PRML Page-by-page chap5-5.3（02分23秒，Notes 5-027）
BP算法简单实例：PRML Page-by-page chap5-5.3（10分00秒，Notes 5-028）
什么是差分法及如何用差分法求一阶导、二阶导：PRML Page-by-page chap5-5.3（13分40秒，Notes 5-029）
求网络的雅各比矩阵：PRML Page-by-page chap5-5.3（27分34秒，Notes 5-033）
海森阵用途总结：PRML Page-by-page chap5-5.4（00分00秒，Notes 5-035）
海森阵的对角化近似：PRML Page-by-page chap5-5.4（01分25秒，Notes 5-036）
海森阵的向量外积近似：PRML Page-by-page chap5-5.4（07分52秒，Notes 5-038、5-039）
利用差分法求海森阵及其复杂度：PRML Page-by-page chap5-5.4（18分44秒，Notes 5-040）
海森阵的精确求解：PRML Page-by-page chap5-5.4（19分04秒，Notes 5-041）
海森阵乘法的快速求解：PRML Page-by-page chap5-5.4（30分52秒，Notes 5-042）
神经网络参数的一致性：PRML Page-by-page chap5-5.5（01分23秒，Notes 5-044）
一致性问题的解决办法：PRML Page-by-page chap5-5.5 (03分40秒，Notes 5-045)
提前停止训练的解释：PRML Page-by-page chap5-5.5（09分49秒，Notes 5-047）
四种网络不变性的解决办法：PRML Page-by-page chap5-5.5 （11分14秒，Notes 5-048）
切线传播法：PRML Page-by-page chap5-5.5 （13分31秒，Notes 5-049）
在网络训练时考虑数据的变化及吉洪诺夫正则化项：PRML Page-by-page chap5-5.5（18分18秒，Notes 5-051、5-052）
自动实现网络参数的共享（参数的软共享）：PRML Page-by-page chap5-5.5 （34分13秒，Notes 5-055）
密度混合网络的参数推导（以生成GMM为例）：PRML Page-by-page chap5-5.6 （09分51秒，Notes 5-060）
网络参数后验分布的拉普拉斯近似：PRML Page-by-page chap5-5.7（07分39秒，Notes 5-069）
基于近似后验分布的预测分布求解：PRML Page-by-page chap5-5.7 （10分46秒，Notes 5-070）
求超参数的估计值：PRML Page-by-page chap5-5.7 （14分57秒，Notes 5-071、5-072）
分类问题的贝叶斯神经网络：PRML Page-by-page chap5-5.7 （25分14秒，Notes 5-073、5-074、5-075、5-076、5-077）
本章内容较多！
