Colocación automática de dispositivos con Acelerador
Tu modelo de IA conversacional necesita entrenarse en un conjunto de datos masivo, así que has decidido trasladar el modelo a una GPU. Estás aprovechando Accelerator
para la colocación automática de dispositivos. Ten en cuenta que este ejercicio en realidad se ejecuta en la CPU, pero el código sigue siendo el mismo para ejecutarlo en la GPU.
Se ha precargado un modelo basado en BERT como model
.
Este ejercicio forma parte del curso
Entrenamiento eficiente de modelos de IA con PyTorch
Instrucciones del ejercicio
- Declara un objeto
accelerator
instanciando la clase adecuada. - Utiliza el objeto
accelerator
para preparar el modelo para el entrenamiento distribuido con la GPU.
Ejercicio interactivo práctico
Prueba este ejercicio completando el código de muestra.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)