Один раунд зворотного поширення
У наведеній нижче мережі ми виконали пряме поширення, і значення вузлів, обчислені під час прямого поширення, показані білим. Ваги показані чорним. Шари після знака питання показують похили, обчислені під час зворотного поширення, а не значення прямого поширення. Ці значення похилів позначені фіолетовим.
У цій мережі знову використовується функція активації ReLU, тож похил функції активації дорівнює 1 для будь-якого вузла, що отримує додатне значення на вході. Припустімо, що досліджуваний вузол мав додатне значення (отже, похил функції активації дорівнює 1).

Який похил потрібен, щоб оновити вагу зі знаком питання?

Ця вправа є частиною курсу
Вступ до Deep Learning у Python
Практична інтерактивна вправа
Перетворіть теорію на практику за допомогою однієї з наших інтерактивних вправ
Почати вправу