電腦視覺微調:Trainer 設定
你已經準備好資料集,並將預訓練模型調整為新類別,現在該設定你的 trainer 了。
TrainingArguments 與 Trainer 已從 transformers 函式庫載入。模型(model)與資料集(dataset)也依照你先前的設定載入完成。
本練習屬於課程
使用 Hugging Face 的多模態模型
練習說明
- 將學習率調整為
6e-5。 - 將模型、訓練資料與測試資料提供給
Trainer實例。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
training_args = TrainingArguments(
output_dir="dataset_finetune",
# Adjust the learning rate
____,
gradient_accumulation_steps=4,
num_train_epochs=3,
push_to_hub=False
)
trainer = Trainer(
# Provide the model and datasets
model=____,
args=training_args,
data_collator=data_collator,
train_dataset=____,
eval_dataset=____,
processing_class=image_processor,
compute_metrics=compute_metrics,
)