Automatische apparaatplaatsing met Accelerator
Je conversational AI-model moet trainen op een enorme gegevensset, dus je hebt besloten het model naar een GPU te verplaatsen. Je gebruikt Accelerator voor automatische apparaatplaatsing. Let op: deze oefening draait eigenlijk op de CPU, maar de code is hetzelfde voor uitvoering op de GPU.
Een BERT-gebaseerd model is vooraf geladen als model.
Deze oefening maakt deel uit van de cursus
Efficiënt AI-modellen trainen met PyTorch
Oefeninstructies
- Declareer een
accelerator-object door de juiste klasse te instantieren. - Gebruik het
accelerator-object om het model voor te bereiden op gedistribueerde training met GPU.
Interactieve oefening met praktijkervaring
Probeer deze oefening door deze voorbeeldcode aan te vullen.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)