เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

AdamW กับ Trainer

คุณกำลังเริ่มต้นเทรนโมเดล Transformer เพื่อทำให้การแปลภาษาเข้าใจง่ายขึ้น ในขั้นแรก ให้ใช้ optimizer แบบ AdamW เป็นค่าอ้างอิง และใช้อินเทอร์เฟซ Trainer สำหรับการตั้งค่าอย่างรวดเร็ว ตั้งค่า Trainer ให้ใช้ optimizer แบบ AdamW

AdamW ถูกนำเข้าจาก torch.optim ไว้แล้ว และออบเจกต์สำหรับการเทรนต่อไปนี้ถูกโหลดไว้ล่วงหน้า: model, training_args, train_dataset, validation_dataset, compute_metrics

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

การเทรน AI Model อย่างมีประสิทธิภาพด้วย PyTorch

ดูคอร์ส

คำแนะนำการฝึกหัด

  • ส่งพารามิเตอร์ของ model ให้กับ optimizer แบบ AdamW
  • ส่ง optimizer ให้กับ Trainer

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

# Pass the model parameters to the AdamW optimizer
optimizer = ____(params=____.____())

# Pass the optimizer to Trainer
trainer = Trainer(model=model,
                  args=training_args,
                  train_dataset=train_dataset,
                  eval_dataset=validation_dataset,
                  optimizers=(____, None),
                  compute_metrics=compute_metrics)

trainer.train()
แก้ไขและรันโค้ด