Entrenamiento de precisión mixto con Entrenador
Quieres simplificar tu interfaz de entrenamiento para un entrenamiento de precisión mixto. Como alternativa a los bucles de entrenamiento con Accelerator, has decidido construir Trainer ya que tu modelo no requiere bucles de entrenamiento personalizados. ¡Configura Trainer para utilizar el entrenamiento de precisión mixto! El ejercicio tardará algún tiempo en ejecutarse con la llamada a trainer.train().
Este ejercicio forma parte del curso
Entrenamiento eficiente de modelos de IA con PyTorch
Instrucciones del ejercicio
- Activa el entrenamiento de precisión mixta para
Trainer.
Ejercicio interactivo práctico
Prueba este ejercicio completando el código de muestra.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()