更深層網路中的前向傳播

現在你有一個包含 2 個隱藏層的模型。輸入節點內顯示的是某筆輸入資料點的數值；邊（連線）上顯示的是權重。這個模型對該資料點會做出什麼預測？

假設每個節點的啟動函式都是「恆等函式」（identity function）。也就是說，每個節點的輸出與其輸入相同。所以第一個隱藏層底部節點的值是 -1，而不是 0；若使用 ReLU 啟動函式才會是 0。