李宏毅《机器学习》

反向传播ppt+总结

1. 反向传播是为了更有效率地计算梯度
2. 基础就是链式求导规则（Chain Rule）；将梯度的计算分为Forward pass和Backward pass两部分。
3. Forward pass的结果就是神经元的输出（输入层虽然是输入，但也是输入神经元的输出）；Backward pass就是从输出层往输入层计算的过程。

如果红色是输出层，那么以上公式就可以完成backward pass

Keras