Un cycle de rétropropagation

Dans le réseau illustré ci-dessous, nous avons effectué une propagation avant, et les valeurs des nœuds calculées dans le cadre de la propagation avant sont indiquées en blanc. Les poids sont indiqués en noir. Les couches après le point d'interrogation indiquent les pentes calculées dans le cadre de la rétropropagation, plutôt que les valeurs de propagation avant. Ces valeurs de pente sont indiquées en violet.

Ce réseau utilise à nouveau la fonction d'activation ReLU, de sorte que la pente de la fonction d'activation est égale à 1 pour tout nœud recevant une valeur positive en entrée. Supposons que le nœud examiné ait une valeur positive (la pente de la fonction d'activation est donc égale à 1).

Quelle est la pente nécessaire pour mettre à jour le poids avec le point d'interrogation ?