在下圖的網路中,我們已經做過前向傳播,前向傳播計算出的節點數值以白色顯示。權重以黑色顯示。帶有問號之後的各層,顯示的是反向傳播計算出的斜率,而不是前向傳播的數值。這些斜率以紫色顯示。
此網路同樣使用 ReLU 啟用函式,因此對於任何輸入為正值的節點,其啟用函式斜率為 1。假設目前檢視的節點輸入為正(因此啟用函式的斜率為 1)。
更新帶有問號之權重所需的斜率是多少?
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
在本章中,你會熟悉深度學習的基本概念與術語,並理解為什麼這些技術在今日如此強大。你將建立簡單的神經網路,並用它們產生預測。
學習如何最佳化你的神經網路所產生的預測。你將使用名為反向傳播的方法,這是深度學習中最重要的技術之一。理解其運作方式,能為你在課程後半段打下紮實基礎。
當前練習
在本章中,你將使用 Keras 函式庫建立同時用於迴歸與分類的深度學習模型。你會學到可用來進行預測的 Specify-Compile-Fit 工作流程;在章末,你將具備建立深度神經網路所需的一切工具。
學習如何在 Keras 中最佳化你的深度學習模型。先從模型驗證開始,接著理解模型容量的概念,最後嘗試更寬、更深的網路。