始める無料で始める

バックプロパゲーションを1回やってみよう

下のネットワークでは、順伝播(forward propagation)を実行済みで、順伝播で計算されたノードの値は白で示しています。重みは黒で示しています。 ?(クエスチョンマーク)以降の層は、順伝播の値ではなく、バックプロパゲーションで計算された傾きを示しており、これらの傾きは紫で表示されています。

このネットワークでも活性化関数はReLUを使用します。そのため、正の値を入力として受け取るノードに対する活性化関数の傾きは1です。ここで調べているノードは正の値だったと仮定します(つまり活性化関数の傾きは1)。

Ch2Ex14_1

?の付いた重みを更新するために必要な傾きはいくつですか?

Ch2Ex14_2

この演習はコースの一部です

Pythonで学ぶDeep Learning入門

コースを見る

実践的なインタラクティブ演習

理論を実践に変える、インタラクティブな演習のひとつをお試しください

演習を開始する