Vi tinh chỉnh CV: cấu hình trainer
Giờ bạn đã chuẩn bị xong dataset và điều chỉnh một mô hình pretrained cho các lớp mới, đã đến lúc cấu hình trainer.
TrainingArguments và Trainer đã được tải từ thư viện transformers. Mô hình (model) và dataset (dataset) đã được tải theo đúng cấu hình bạn đã thiết lập trước đó.
Bài tập này là một phần của khóa học
Mô hình đa phương thức với Hugging Face
Hướng dẫn bài tập
- Điều chỉnh learning rate thành
6e-5. - Cung cấp model, dữ liệu train và dữ liệu test cho instance
Trainer.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
training_args = TrainingArguments(
output_dir="dataset_finetune",
# Adjust the learning rate
____,
gradient_accumulation_steps=4,
num_train_epochs=3,
push_to_hub=False
)
trainer = Trainer(
# Provide the model and datasets
model=____,
args=training_args,
data_collator=data_collator,
train_dataset=____,
eval_dataset=____,
processing_class=image_processor,
compute_metrics=compute_metrics,
)