Prepara un modelo para entrenamiento distribuido
Has decidido usar la librería Accelerator de Hugging Face para entrenar tu modelo de traducción automática. ¡Ahora toca preparar tu modelo para el entrenamiento distribuido!
Se han precargado algunos datos:
acceleratores una instancia deAcceleratormodel,optimizer,train_dataloaderylr_schedulerya están definidos
Este ejercicio forma parte del curso
Entrenamiento eficiente de modelos de IA con PyTorch
Instrucciones del ejercicio
- Llama a un método para preparar los objetos para el entrenamiento distribuido.
- Pasa los objetos de entrenamiento como argumentos posicionales a
accelerator.prepare(), respetando el orden de la salida.
ejercicio interactivo práctico
Prueba este ejercicio completando este código de ejemplo.
# Prepare objects for distributed training
model, optimizer, train_dataloader, lr_scheduler = ____.____(
# Pass in the training objects matching the order of the output
____,
____,
____,
____)