上一篇介绍了一点梯度,正向传播,逆向传播。这里再详细介绍一下。

不要被这些名词吓住了,名词的本质都是总结,而总结的名词,其实是最阻碍我们学习的,我们要讨厌它,但不用害怕它。

先看一下requires_grad这个参数的使用,代码如下: