Aplică pruning unui strat liniar
Am antrenat un model de clasificare a imaginilor folosind un strat complet conectat (liniar). Acum, sarcina ta este să aplici pruning nestructurat acestui strat, pentru a reduce dimensiunea modelului fără a afecta semnificativ performanța. Vom folosi metoda l1_unstructured din PyTorch.
Modelul este preîncărcat în variabila model.
Acest exercițiu face parte din cursul
Modele AI scalabile cu PyTorch Lightning
Instrucțiuni pentru exercițiu
- Importă modulul de pruning din
torch.nn.utils. - Aplică pruning de tip
l1_unstructuredpemodel[3], stratul final, și elimină 30% din ponderi.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Import pruning module
import torch.nn.utils.prune as ____
# Before pruning
print(model)
# Apply L1 unstructured pruning to model[3]
prune.____(model[3], name="____", amount=____)
# After pruning
print(model)