BaşlayınÜcretsiz Başlayın

Ölçeklenebilirlik için modelleri optimize etme

Gerçek dünyadaki uygulamalarda çıkarım hızı, model boyutu ve hesaplama verimliliği önemli olduğundan, AI modellerini verimli şekilde dağıtmak kritik önemdedir. Şimdi dağıtım için modelleri kaydetme ve yükleme becerini test edeceğiz. İş akışını tamamlamak için TorchScript dışa aktarma gibi teknikler kullanacaksın. Kullanılan veri kümesi, MNIST veri kümesinin bir varyasyonudur.

Bu egzersizi tamamladığında, bu derste öğrendiğin ileri teknikleri uygulayarak dağıtıma uygun şekilde optimize edilmiş bir model hazırlamış olacaksın.

X_test, y_test veri kümeleri ile torch.jit senin için önceden yüklendi.

Bu egzersiz

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

kursunun bir parçasıdır
Kursu Görüntüle

Egzersiz talimatları

  • trace fonksiyonunu kullanarak modeli TorchScript'e aktar.
  • Modeli TorchScript olarak kaydet.
  • Kaydedilmiş modeli yükle.

Uygulamalı interaktif egzersiz

Bu örnek kodu tamamlayarak bu egzersizi bitirin.

# Export model to TorchScript
scripted_model = torch.jit.____(model, torch.tensor(X_test[:1], dtype=torch.float32).unsqueeze(1))
# Save model to TorchScript
torch.jit.____(scripted_model, 'model.pt')

# Loaded saved model
loaded_model = torch.jit.____('____.pt')
# Validate inference on test dataset
test_loader = DataLoader(TensorDataset(torch.tensor(X_test, dtype=torch.float32).unsqueeze(1), ____), batch_size=64)

accuracy = evaluate_model(loaded_model, test_loader)

print(f"Optimized model accuracy: {accuracy:.2%}")
Kodu Düzenle ve Çalıştır