Colocación automática de dispositivos con Accelerator
Tu modelo de IA conversacional necesita entrenarse con un conjunto de datos enorme, así que has decidido mover el modelo a una GPU. Estás aprovechando Accelerator para la asignación automática de dispositivos. Ten en cuenta que este ejercicio se ejecuta realmente en la CPU, pero el código es el mismo para ejecutarlo en la GPU.
Se ha precargado un modelo basado en BERT como model.
Este ejercicio forma parte del curso
Entrenamiento eficiente de modelos de IA con PyTorch
Instrucciones del ejercicio
- Declara un objeto
acceleratorinstanciando la clase correspondiente. - Usa el objeto
acceleratorpara preparar el modelo para entrenamiento distribuido con GPU.
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)