一次反向传播
在下图所示的网络中,我们已经完成了前向传播,前向传播计算得到的节点数值以白色显示。权重以黑色显示。问号之后的各层显示的是在反向传播中计算得到的斜率,而不是前向传播的数值。这些斜率值以紫色显示。
该网络同样使用 ReLU 激活函数,所以对任意接收到正输入的节点,激活函数的斜率为 1。假设正在分析的节点取值为正(因此激活函数的斜率为 1)。

要更新带有问号的那个权重,需要的斜率是多少?

本练习是课程的一部分
在下图所示的网络中,我们已经完成了前向传播,前向传播计算得到的节点数值以白色显示。权重以黑色显示。问号之后的各层显示的是在反向传播中计算得到的斜率,而不是前向传播的数值。这些斜率值以紫色显示。
该网络同样使用 ReLU 激活函数,所以对任意接收到正输入的节点,激活函数的斜率为 1。假设正在分析的节点取值为正(因此激活函数的斜率为 1)。

要更新带有问号的那个权重,需要的斜率是多少?

本练习是课程的一部分