การเพิ่มประสิทธิภาพโมเดลเพื่อรองรับการขยายขนาด
การ deploy โมเดล AI อย่างมีประสิทธิภาพเป็นสิ่งสำคัญในแอปพลิเคชันจริง ที่ความเร็วในการอนุมาน ขนาดของโมเดล และประสิทธิภาพในการคำนวณล้วนมีผลโดยตรง ในแบบฝึกหัดนี้จะได้ทดสอบความสามารถในการบันทึกและโหลดโมเดลเพื่อนำไป deploy โดยใช้เทคนิคอย่าง TorchScript export เพื่อทำขั้นตอนการทำงานให้สมบูรณ์ ชุดข้อมูลที่ใช้เป็น MNIST แบบดัดแปลง
เมื่อทำแบบฝึกหัดนี้เสร็จ คุณจะได้โมเดลที่พร้อมสำหรับการ deploy พร้อมทั้งได้ฝึกใช้เทคนิคขั้นสูงที่เรียนมาในบทเรียนนี้
ชุดข้อมูล X_test, y_test รวมถึง torch.jit ได้ถูกโหลดไว้ให้แล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
AI Models แบบ Scalable ด้วย PyTorch Lightning
คำแนะนำการฝึกหัด
- เอ็กซ์พอร์ตโมเดลไปยัง TorchScript โดยใช้ฟังก์ชัน
trace - บันทึกโมเดลในรูปแบบ TorchScript
- โหลดโมเดลที่บันทึกไว้
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Export model to TorchScript
scripted_model = torch.jit.____(model, torch.tensor(X_test[:1], dtype=torch.float32).unsqueeze(1))
# Save model to TorchScript
torch.jit.____(scripted_model, 'model.pt')
# Loaded saved model
loaded_model = torch.jit.____('____.pt')
# Validate inference on test dataset
test_loader = DataLoader(TensorDataset(torch.tensor(X_test, dtype=torch.float32).unsqueeze(1), ____), batch_size=64)
accuracy = evaluate_model(loaded_model, test_loader)
print(f"Optimized model accuracy: {accuracy:.2%}")