Perfezionare il metodo forward

Dopo aver configurato i layer nel metodo __init__, il metodo forward stabilisce come i dati fluiscono attraverso di essi. In PyTorch Lightning, questa separazione mantiene il codice pulito e facile da mantenere. Hai già visto come strutturare il costruttore: ora è il momento di concentrarti sul forward pass, assicurandoti che la logica di classificazione sia chiara e ottimizzata per l'addestramento. Qui, i layer in __init__ sono già definiti per te, così puoi concentrarti esclusivamente sul flusso forward.

lightning.pytorch e torch.nn sono già stati importati come pl e nn.

Questo esercizio fa parte del corso

Modelli di AI scalabili con PyTorch Lightning

Visualizza il corso

Istruzioni dell'esercizio

Implementa il metodo forward all'interno di ClassifierModel.
Applica un'attivazione ReLU dopo il layer nascosto.

Esercizio pratico interattivo

Prova a risolvere questo esercizio completando il codice di esempio.

class ClassifierModel(pl.LightningModule):
  
    def __init__(self, input_dim, hidden_dim, output_dim):
        super().__init__()
        self.hidden = nn.Linear(input_dim, hidden_dim)
        self.output = nn.Linear(hidden_dim, output_dim)
        
    # Define forward method
    def ____(self, ____):
        # Complete the forward pass
        x = self.hidden(x)
        x = ____(x)
        x = self.output(x)
        return x

Modifica ed esegui il codice

Questo esercizio fa parte del corso

Modelli di AI scalabili con PyTorch Lightning

IntermediárioNível de habilidade

4.8+

Inizia il corso gratis

In this chapter, we'll explore how PyTorch Lightning simplifies the development and deployment of scalable AI models. Starting with foundational concepts, we'll go through the core structure of a PyTorch Lightning project, including essential components like the LightningModule and Trainer, to set a strong foundation for more advanced AI solutions.

Exercise 1: Introduzione a PyTorch Lightning Exercise 2: Introduzione al LightningModule Exercise 3: Eseguire il Lightning Trainer Exercise 4: Definire modelli con LightningModule Exercise 5: Uso del LightningModule Exercise 6: Padroneggiare il metodo init Exercise 7: Perfezionare il metodo forward

Esercizio in corso

Exercise 8: Implementare la logica di training Exercise 9: Implementare lo step di training Exercise 10: Configurare l'ottimizzatore Exercise 11: Training ed evaluation

We'll dive deeper into PyTorch Lightning to efficiently manage data and refine model training in this chapter. We'll learn how to create modular and reusable data workflows with LightningDataModule, evaluate your models accurately through validation and testing, and enhance training processes using Lightning Callbacks to automate model improvement and avoid overfitting.

Exercise 1: Managing data with LightningDataModule Exercise 2: Splitting data with LightningDataModule Exercise 3: Creating a train DataLoader Exercise 4: Incorporating validation and testing Exercise 5: Implementing the validation step Exercise 6: Evaluate model accuracy using Torchmetrics Exercise 7: Enhancing training with Lightning callbacks Exercise 8: Classifying Lightning callbacks Exercise 9: Optimizing model training with Lightning

Learn to prepare deep learning models for real-world deployment by making them leaner and faster. This chapter introduces techniques such as dynamic quantization, pruning, and TorchScript conversion, helping you reduce model size and latency without sacrificing accuracy

Exercise 1: Applying dynamic quantization Exercise 2: Apply dynamic quantization Exercise 3: Comparing quantized model performance Exercise 4: Implementing model pruning techniques Exercise 5: Apply pruning to a linear layer Exercise 6: Finalize pruning by removing the mask Exercise 7: Exporting models with TorchScript Exercise 8: Choosing the right conversion method Exercise 9: Optimizing models for scalability Exercise 10: Recap: Scalable AI Models with PyTorch Lightning