Posicionamento automático de dispositivos com o Accelerator
Seu modelo de IA conversacional precisa ser treinado em um grande conjunto de dados, então você decidiu mover o modelo para uma GPU. Você está aproveitando o site Accelerator para o posicionamento automático de dispositivos. Observe que, na verdade, esse exercício é executado na CPU, mas o código permanece o mesmo para execução na GPU.
Um modelo baseado em BERT foi pré-carregado como model.
Este exercício faz parte do curso
Treinamento eficiente de modelos de IA com PyTorch
Instruções do exercício
- Declare um objeto
acceleratorinstanciando a classe apropriada. - Use o objeto
acceleratorpara preparar o modelo para treinamento distribuído com GPU.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)