Entrenamiento de precisión mixta con Trainer
Quieres simplificar tu interfaz de entrenamiento para usar precisión mixta. Como alternativa a los bucles de entrenamiento con Accelerator, has decidido utilizar Trainer porque tu modelo no necesita bucles personalizados. ¡Configura Trainer para usar entrenamiento de precisión mixta! El ejercicio tardará un poco en ejecutarse con la llamada a trainer.train().
Este ejercicio forma parte del curso
Entrenamiento eficiente de modelos de IA con PyTorch
Instrucciones del ejercicio
- Activa el entrenamiento de precisión mixta para
Trainer.
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()