Plasarea automată pe dispozitiv cu Accelerator
Modelul tău de AI conversațional trebuie să fie antrenat pe un set de date masiv, așa că ai decis să îl muți pe un GPU. Folosești Accelerator pentru plasarea automată pe dispozitiv. Reține că acest exercițiu rulează efectiv pe CPU, dar codul rămâne același și pentru rularea pe GPU.
Un model bazat pe BERT a fost preîncărcat ca model.
Acest exercițiu face parte din cursul
Antrenament eficient al modelelor AI cu PyTorch
Instrucțiuni pentru exercițiu
- Declară un obiect
acceleratorinstanțiind clasa corespunzătoare. - Folosește obiectul
acceleratorpentru a pregăti modelul în vederea antrenamentului distribuit cu GPU.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)