Uma rodada de backpropagation

Na rede mostrada abaixo, já fizemos a propagação para frente, e os valores dos nós calculados como parte da propagação para frente aparecem em branco. Os pesos aparecem em preto. As camadas após o ponto de interrogação mostram os declives calculados como parte do backprop, em vez dos valores de forward-prop. Esses valores de declive aparecem em roxo.

Essa rede novamente usa a função de ativação ReLU, então o declive da função de ativação é 1 para qualquer nó que receba um valor positivo como entrada. Considere que o nó analisado recebeu um valor positivo (logo, o declive da função de ativação é 1).

Qual é o declive necessário para atualizar o peso com o ponto de interrogação?