Placement automatique sur l’appareil avec Accelerator
Votre modèle d’IA conversationnelle doit s’entraîner sur un jeu de données massif ; vous avez donc décidé de déplacer le modèle sur un GPU. Vous utilisez Accelerator pour le placement automatique sur l’appareil. Notez que cet exercice s’exécute en réalité sur le CPU, mais le code est identique pour une exécution sur GPU.
Un modèle basé sur BERT a été préchargé sous le nom model.
Cet exercice fait partie du cours
<cours>Entraîner efficacement des modèles d’IA avec PyTorch</cours>Instructions de l’exercice
- Déclarez un objet
acceleratoren instanciant la classe appropriée. - Utilisez l’objet
acceleratorpour préparer le modèle à l’entraînement distribué avec GPU.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)