ПочатиПочніть безкоштовно

Один раунд зворотного поширення

У наведеній нижче мережі ми виконали пряме поширення, і значення вузлів, обчислені під час прямого поширення, показані білим. Ваги показані чорним. Шари після знака питання показують похили, обчислені під час зворотного поширення, а не значення прямого поширення. Ці значення похилів позначені фіолетовим.

У цій мережі знову використовується функція активації ReLU, тож похил функції активації дорівнює 1 для будь-якого вузла, що отримує додатне значення на вході. Припустімо, що досліджуваний вузол мав додатне значення (отже, похил функції активації дорівнює 1).

Ch2Ex14_1

Який похил потрібен, щоб оновити вагу зі знаком питання?

Ch2Ex14_2

Ця вправа є частиною курсу

Вступ до Deep Learning у Python

Переглянути курс

Практична інтерактивна вправа

Перетворіть теорію на практику за допомогою однієї з наших інтерактивних вправ

Почати вправу