การ Fine-tuning โมเดล CV: การตั้งค่า Trainer
เมื่อเตรียมชุดข้อมูลและปรับโมเดลที่ผ่านการเทรนมาแล้วให้รองรับคลาสใหม่เรียบร้อยแล้ว ขั้นตอนต่อไปคือการตั้งค่า Trainer
TrainingArguments และ Trainer ถูกโหลดจากไลบรารี transformers มาให้แล้ว รวมถึงโมเดล (model) และชุดข้อมูล (dataset) ที่ตั้งค่าไว้ก่อนหน้านี้
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
โมเดล Multi-Modal ด้วย Hugging Face
คำแนะนำการฝึกหัด
- ปรับ learning rate เป็น
6e-5 - ระบุโมเดล ข้อมูลสำหรับเทรน และข้อมูลสำหรับทดสอบให้กับอินสแตนซ์
Trainer
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
training_args = TrainingArguments(
output_dir="dataset_finetune",
# Adjust the learning rate
____,
gradient_accumulation_steps=4,
num_train_epochs=3,
push_to_hub=False
)
trainer = Trainer(
# Provide the model and datasets
model=____,
args=training_args,
data_collator=data_collator,
train_dataset=____,
eval_dataset=____,
processing_class=image_processor,
compute_metrics=compute_metrics,
)