Finalizează pruning-ul prin eliminarea măștii
După aplicarea pruning-ului unui model, trebuie să îl finalizezi înainte de a-l salva sau implementa. Aceasta înseamnă eliminarea măștii de pruning, astfel încât modelul să nu mai urmărească ce ponderi au fost setate la zero. Vei folosi prune.remove() pentru a finaliza acest pas.
Acest exercițiu face parte din cursul
Modele AI scalabile cu PyTorch Lightning
Instrucțiuni pentru exercițiu
- Finalizează pruning-ul parametrului de tip pondere.
- Folosește
prune.remove()pentru a elimina masca și a stoca ponderile finale. - Afișează modelul pentru a confirma eliminarea pruning-ului.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
import torch.nn.utils.prune as prune
# Before pruning
print(model)
# Finalize pruning by removing the pruning mask
prune.____(model[3], "____")
# Print model structure after pruning
print(____)