Automatisk enhetsplacering med Accelerator
Din konversationsbaserade AI-modell behöver tränas på en stor datamängd, så du har beslutat att flytta modellen till en GPU. Du använder Accelerator för automatisk enhetsplacering. Observera att den här övningen faktiskt körs på CPU:n, men koden är densamma för körning på GPU.
En BERT-baserad modell har laddats in i förväg som model.
Den här övningen är en del av kursen
Effektiv AI-modellträning med PyTorch
Övningsinstruktioner
- Deklarera ett
accelerator-objekt genom att instansiera lämplig klass. - Använd
accelerator-objektet för att förbereda modellen för distribuerad träning med GPU.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)