Finalisasi pruning dengan menghapus mask
Setelah melakukan pruning pada model, Anda perlu melakukan finalisasi sebelum menyimpan atau menerapkannya. Ini berarti menghapus mask pruning agar model tidak lagi melacak bobot mana yang dibuat nol. Anda akan menggunakan prune.remove() untuk menyelesaikan langkah ini.
Latihan ini adalah bagian dari kursus
Model AI yang Dapat Diskalakan dengan PyTorch Lightning
Petunjuk latihan
- Finalisasikan pruning pada parameter bobot.
- Gunakan
prune.remove()untuk menghapus mask dan menyimpan bobot final. - Cetak model untuk memastikan mask pruning telah dihapus.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
import torch.nn.utils.prune as prune
# Before pruning
print(model)
# Finalize pruning by removing the pruning mask
prune.____(model[3], "____")
# Print model structure after pruning
print(____)