Framåtpropagering i ett djupare nätverk

Du har nu en modell med 2 dolda lager. Värdena för en indatapunkt visas inuti indatanoderna. Vikterna visas på kanterna/linjerna. Vilken prediktion gör den här modellen för den här datapunkten?

Anta att aktiveringsfunktionen i varje nod är identitetsfunktionen. Det innebär att varje nods utdata är densamma som dess indata. Värdet på den nedre noden i det första dolda lagret är alltså -1, inte 0 som det skulle vara med ReLU-aktiveringsfunktionen.