1. Nauka
  2. /
  3. Kursy
  4. /
  5. Skalowalne modele AI z PyTorch Lightning

Connected

ćwiczenie

Optymalizacja modeli pod kątem skalowalności

Efektywne wdrażanie modeli AI jest kluczowe w rzeczywistych zastosowaniach, gdzie liczy się szybkość wnioskowania, rozmiar modelu i wydajność obliczeniowa. W tym ćwiczeniu sprawdzisz umiejętność zapisywania i wczytywania modeli na potrzeby wdrożenia. Wykorzystasz techniki takie jak eksport do formatu TorchScript, aby ukończyć cały przepływ pracy. Używany zbiór danych jest wariantem zbioru MNIST.

Po ukończeniu tego ćwiczenia będziesz mieć gotowy model zoptymalizowany do wdrożenia, stosując zaawansowane techniki poznane w tej lekcji.

Zbiory danych X_test i y_test oraz moduł torch.jit zostały wstępnie załadowane.

Instrukcje

100 XP
  • Wyeksportuj model do formatu TorchScript, używając funkcji trace.
  • Zapisz model w formacie TorchScript.
  • Wczytaj zapisany model.