Kuantize edilmiş model performansını karşılaştırma

Performans iyileştirmelerini anlamak sadece doğrulukla ilgili değildir. Kuantize edilmiş modeller genellikle daha hızlı çıkarım süreleri sunar — bu da dağıtım senaryolarında önemli bir avantajdır. Hem orijinal hem de kuantize edilmiş modellerin test kümesini işlemesinin ne kadar sürdüğünü ölçeceksin.

measure_time() fonksiyonu önceden tanımlandı. Modeli değerlendirme moduna alır, veri yükleyicideki tüm yığınlar üzerinde bir ileri geçiş çalıştırır ve geçen süreyi döndürür.

model (orijinal model) ve model_quantized (kuantize edilmiş sürüm) ile test_loader önceden yüklendi.

Bu egzersiz

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

kursunun bir parçasıdır

Kursu Görüntüle

Egzersiz talimatları

Orijinal ve kuantize edilmiş modeller için çıkarım süresini hesapla.
Her iki süreyi de iki ondalığa yuvarlanmış olarak yazdır.

Uygulamalı interaktif egzersiz

Bu örnek kodu tamamlayarak bu egzersizi bitirin.

# Measure inference time of the original model
original_time = measure_time(____)

# Measure inference time of the quantized model
quant_time = measure_time(____)

# Print results
print(f"Original Model Time: {____}s")
print(f"Quantized Model Time: {____}s")

Kodu Düzenle ve Çalıştır

Bu egzersiz

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

kursunun bir parçasıdır

IntermediárioNível de habilidade

4.8+

Kursa Ücretsiz Başlayın

In this chapter, we'll explore how PyTorch Lightning simplifies the development and deployment of scalable AI models. Starting with foundational concepts, we'll go through the core structure of a PyTorch Lightning project, including essential components like the LightningModule and Trainer, to set a strong foundation for more advanced AI solutions.

Exercise 1: Introduction to PyTorch Lightning Exercise 2: Introducing the LightningModule Exercise 3: Running the Lightning Trainer Exercise 4: Defining models with LightningModule Exercise 5: Usage of the LightningModule Exercise 6: Mastering the init method Exercise 7: Perfecting the forward method Exercise 8: Implementing training logic Exercise 9: Implementing the training step Exercise 10: Configuring the optimizer Exercise 11: Training and evaluating

We'll dive deeper into PyTorch Lightning to efficiently manage data and refine model training in this chapter. We'll learn how to create modular and reusable data workflows with LightningDataModule, evaluate your models accurately through validation and testing, and enhance training processes using Lightning Callbacks to automate model improvement and avoid overfitting.

Exercise 1: Managing data with LightningDataModule Exercise 2: Splitting data with LightningDataModule Exercise 3: Creating a train DataLoader Exercise 4: Incorporating validation and testing Exercise 5: Implementing the validation step Exercise 6: Evaluate model accuracy using Torchmetrics Exercise 7: Enhancing training with Lightning callbacks Exercise 8: Classifying Lightning callbacks Exercise 9: Optimizing model training with Lightning

Learn to prepare deep learning models for real-world deployment by making them leaner and faster. This chapter introduces techniques such as dynamic quantization, pruning, and TorchScript conversion, helping you reduce model size and latency without sacrificing accuracy

Exercise 1: Dinamik nicelemeyi uygulama Exercise 2: Dinamik niceleme uygula Exercise 3: Kuantize edilmiş model performansını karşılaştırma

Geçerli Egzersiz

Exercise 4: Model budama tekniklerini uygulama Exercise 5: Doğrusal bir katmana budama uygula Exercise 6: Maskeyi kaldırarak budamayı tamamla Exercise 7: Modelleri TorchScript ile dışa aktarma Exercise 8: Doğru dönüştürme yöntemini seçmek Exercise 9: Ölçeklenebilirlik için modelleri optimize etme Exercise 10: Özet: PyTorch Lightning ile Ölçeklenebilir AI Modelleri