Establecer argumentos de formación
Después de tokenizar tus interacciones de atención al cliente, tienes que configurar tus argumentos de entrenamiento antes de poder afinar un modelo preentrenado.
TrainingArguments se ha cargado para ti.
Este ejercicio forma parte del curso
Introduction to LLMs in Python
Instrucciones de ejercicio
- Configura una instancia de
TrainingArguments(). - Configura la estrategia de evaluación como
"epoch". - Especifica tres épocas de entrenamiento.
- Establece en tres el tamaño de los lotes, tanto para el entrenamiento como para la evaluación.
Ejercicio interactivo práctico
Pruebe este ejercicio completando este código de muestra.
# Set up an instance of TrainingArguments
training_args = ____(
output_dir="./finetuned",
# Set the evaluation strategy
____,
# Specify the number of epochs
____=3,
learning_rate=2e-5,
# Set the batch sizes
____=3,
____=3,
weight_decay=0.01
)