Finalisasi pruning dengan menghapus mask
Setelah melakukan pruning pada model, Anda perlu melakukan finalisasi sebelum menyimpan atau menerapkannya. Ini berarti menghapus mask pruning agar model tidak lagi melacak bobot mana yang dibuat nol. Anda akan menggunakan prune.remove() untuk menyelesaikan langkah ini.
Latihan ini merupakan bagian dari kursus
Model AI yang Dapat Diskalakan dengan PyTorch Lightning
Instruksi latihan
- Finalisasikan pruning pada parameter bobot.
- Gunakan
prune.remove()untuk menghapus mask dan menyimpan bobot final. - Cetak model untuk memastikan mask pruning telah dihapus.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
import torch.nn.utils.prune as prune
# Before pruning
print(model)
# Finalize pruning by removing the pruning mask
prune.____(model[3], "____")
# Print model structure after pruning
print(____)