ÎncepețiÎncepe gratuit

Optimizarea modelelor pentru scalabilitate

Deployarea eficientă a modelelor de inteligență artificială este esențială în aplicațiile reale, unde viteza de inferență, dimensiunea modelului și eficiența computațională contează. Acum îți vei testa capacitatea de a salva și încărca modele pentru deployment. Vei folosi tehnici precum exportul TorchScript pentru a finaliza fluxul de lucru. Setul de date utilizat este o variantă a setului de date MNIST.

Prin rezolvarea acestui exercițiu, vei pregăti un model optimizat pentru deployment, aplicând tehnicile avansate învățate în această lecție.

Seturile de date X_test, y_test, precum și torch.jit, au fost preîncărcate pentru tine.

Acest exercițiu face parte din cursul

Modele AI scalabile cu PyTorch Lightning

Vezi cursul

Instrucțiuni pentru exercițiu

  • Exportă modelul în TorchScript folosind funcția trace.
  • Salvează modelul în TorchScript.
  • Încarcă modelul salvat.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Export model to TorchScript
scripted_model = torch.jit.____(model, torch.tensor(X_test[:1], dtype=torch.float32).unsqueeze(1))
# Save model to TorchScript
torch.jit.____(scripted_model, 'model.pt')

# Loaded saved model
loaded_model = torch.jit.____('____.pt')
# Validate inference on test dataset
test_loader = DataLoader(TensorDataset(torch.tensor(X_test, dtype=torch.float32).unsqueeze(1), ____), batch_size=64)

accuracy = evaluate_model(loaded_model, test_loader)

print(f"Optimized model accuracy: {accuracy:.2%}")
Editează și rulează codul