Hoàn tất việc pruning bằng cách gỡ mặt nạ
Sau khi thực hiện pruning cho mô hình, bạn cần hoàn tất trước khi lưu hoặc triển khai. Điều này có nghĩa là gỡ bỏ mặt nạ pruning để mô hình không còn theo dõi những trọng số đã bị đặt về 0. Bạn sẽ dùng prune.remove() để hoàn thành bước này.
Bài tập này là một phần của khóa học
Mô hình AI có khả năng mở rộng với PyTorch Lightning
Hướng dẫn bài tập
- Hoàn tất việc pruning cho tham số trọng số.
- Dùng
prune.remove()để gỡ mặt nạ và lưu các trọng số cuối cùng. - In mô hình để xác nhận việc gỡ bỏ pruning.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
import torch.nn.utils.prune as prune
# Before pruning
print(model)
# Finalize pruning by removing the pruning mask
prune.____(model[3], "____")
# Print model structure after pruning
print(____)