เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

การเพิ่มประสิทธิภาพโมเดลเพื่อรองรับการขยายขนาด

การ deploy โมเดล AI อย่างมีประสิทธิภาพเป็นสิ่งสำคัญในแอปพลิเคชันจริง ที่ความเร็วในการอนุมาน ขนาดของโมเดล และประสิทธิภาพในการคำนวณล้วนมีผลโดยตรง ในแบบฝึกหัดนี้จะได้ทดสอบความสามารถในการบันทึกและโหลดโมเดลเพื่อนำไป deploy โดยใช้เทคนิคอย่าง TorchScript export เพื่อทำขั้นตอนการทำงานให้สมบูรณ์ ชุดข้อมูลที่ใช้เป็น MNIST แบบดัดแปลง

เมื่อทำแบบฝึกหัดนี้เสร็จ คุณจะได้โมเดลที่พร้อมสำหรับการ deploy พร้อมทั้งได้ฝึกใช้เทคนิคขั้นสูงที่เรียนมาในบทเรียนนี้

ชุดข้อมูล X_test, y_test รวมถึง torch.jit ได้ถูกโหลดไว้ให้แล้ว

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

AI Models แบบ Scalable ด้วย PyTorch Lightning

ดูคอร์ส

คำแนะนำการฝึกหัด

  • เอ็กซ์พอร์ตโมเดลไปยัง TorchScript โดยใช้ฟังก์ชัน trace
  • บันทึกโมเดลในรูปแบบ TorchScript
  • โหลดโมเดลที่บันทึกไว้

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

# Export model to TorchScript
scripted_model = torch.jit.____(model, torch.tensor(X_test[:1], dtype=torch.float32).unsqueeze(1))
# Save model to TorchScript
torch.jit.____(scripted_model, 'model.pt')

# Loaded saved model
loaded_model = torch.jit.____('____.pt')
# Validate inference on test dataset
test_loader = DataLoader(TensorDataset(torch.tensor(X_test, dtype=torch.float32).unsqueeze(1), ____), batch_size=64)

accuracy = evaluate_model(loaded_model, test_loader)

print(f"Optimized model accuracy: {accuracy:.2%}")
แก้ไขและรันโค้ด