Élaboration d'arguments d’entraînement
Après avoir tokenisé vos interactions avec le service client, il est nécessaire de configurer vos arguments de formation avant de pouvoir affiner un modèle pré-entraîné.
TrainingArguments a été chargé pour vous.
Cet exercice fait partie du cours
Introduction aux LLM en Python
Instructions
- Configurez une instance de
TrainingArguments(). - Définissez la stratégie d'évaluation comme
"epoch". - Indiquez trois périodes d’entraînement.
- Définissez la taille des lots pour l'entraînement et l'évaluation à trois.
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
# Set up an instance of TrainingArguments
training_args = ____(
output_dir="./finetuned",
# Set the evaluation strategy
____,
# Specify the number of epochs
____=3,
learning_rate=2e-5,
# Set the batch sizes
____=3,
____=3,
weight_decay=0.01
)