CV-fine-tuning: trainerconfiguratie
Nu je de gegevensset hebt voorbereid en een pretrained model hebt aangepast aan de nieuwe klassen, is het tijd om je trainer te configureren.
De TrainingArguments en Trainer zijn geladen uit de transformers-bibliotheek. Het model (model) en de gegevensset (dataset) zijn geladen zoals je ze eerder hebt ingesteld.
Deze oefening maakt deel uit van de cursus
Multi-modale modellen met Hugging Face
Oefeninstructies
- Stel de learning rate in op
6e-5. - Geef het model, de trainingsdata en de testdata door aan de
Trainer-instance.
Interactieve oefening met praktijkervaring
Probeer deze oefening door deze voorbeeldcode aan te vullen.
training_args = TrainingArguments(
output_dir="dataset_finetune",
# Adjust the learning rate
____,
gradient_accumulation_steps=4,
num_train_epochs=3,
push_to_hub=False
)
trainer = Trainer(
# Provide the model and datasets
model=____,
args=training_args,
data_collator=data_collator,
train_dataset=____,
eval_dataset=____,
processing_class=image_processor,
compute_metrics=compute_metrics,
)