Dokončení pruning odstraněním masky
Po pruning modelu je potřeba ho před uložením nebo nasazením finalizovat. To znamená odstranit pruning masku, aby model dále nesledoval, které váhy byly vynulovány. K dokončení tohoto kroku použiješ prune.remove().
Toto cvičení je součástí kurzu
Škálovatelné modely AI s PyTorch Lightning
Pokyny k cvičení
- Finalizuj pruning parametru vah.
- Pomocí
prune.remove()odstraň masku a ulož výsledné váhy. - Vypiš model a ověř, že maska byla úspěšně odstraněna.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
import torch.nn.utils.prune as prune
# Before pruning
print(model)
# Finalize pruning by removing the pruning mask
prune.____(model[3], "____")
# Print model structure after pruning
print(____)