O rundă de backpropagation
În rețeaua prezentată mai jos, am efectuat propagarea înainte (forward propagation), iar valorile nodurilor calculate în acest proces sunt afișate în alb. Ponderile sunt afișate în negru. Straturile de după semnul întrebării afișează pantele calculate în cadrul backpropagation, nu valorile din propagarea înainte. Aceste valori ale pantelor sunt afișate în violet.
Această rețea folosește din nou funcția de activare ReLU, deci panta funcției de activare este 1 pentru orice nod care primește o valoare pozitivă ca intrare. Presupune că nodul analizat a avut o valoare pozitivă (deci panta funcției de activare este 1).
Care este panta necesară pentru actualizarea ponderii marcate cu semnul întrebării?
Acest exercițiu face parte din cursul
Introducere în Deep Learning în Python
Exercițiu interactiv practic
Transformă teoria în practică cu unul dintre exercițiile noastre interactive
Începe exercițiul