1. Learn
    2. /
  2. Cursuri
    3. /
  3. Introducere în Deep Learning cu PyTorch
Connected

exercițiu

Actualizarea manuală a ponderilor

Acum că știi cum să accesezi ponderi și bias-uri, vei efectua manual operațiunea realizată de obicei de optimizatorul PyTorch. Deși PyTorch automatizează acest proces, exersarea lui manuală te ajută să înțelegi intuitiv cum învață și se ajustează modelele. Această înțelegere va fi valoroasă atunci când depanezi sau ajustezi rețele neuronale.

A fost creată o rețea neuronală cu trei straturi, stocată în variabila model. Această rețea a fost folosită pentru un pas înainte (forward pass), iar pierderea și derivatele sale au fost calculate. A fost ales o rată de învățare implicită, lr, pentru a scala gradienții în momentul actualizării.

Instrucțiuni 1/2

undefined XP
    1
    2
  • Creează variabilele pentru gradienți accesând gradienții locali ai fiecărui tensor de ponderi.