Inițializarea straturilor
Inițializarea ponderilor unei rețele neuronale a preocupat cercetătorii de mulți ani. La antrenarea unei rețele, metoda aleasă pentru inițializarea ponderilor are un impact direct asupra performanței finale a modelului.
Ca practician în domeniul învățării automate, ar trebui să poți experimenta cu diferite strategii de inițializare. În acest exercițiu, vei crea o rețea neuronală simplă, formată din două straturi, și vei decide să inițializezi ponderile fiecărui strat folosind metoda uniformă.
Acest exercițiu face parte din cursul
Introducere în Deep Learning cu PyTorch
Instrucțiuni pentru exercițiu
- Pentru fiecare strat (
layer0șilayer1), folosește metoda de inițializare uniformă pentru a inițializa ponderile.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)