Mulai sekarangMulai gratis

AdamW dengan Trainer

Anda mulai melatih model Transformer untuk menyederhanakan penerjemahan bahasa. Sebagai langkah awal, Anda memutuskan menggunakan optimizer AdamW sebagai tolok ukur dan antarmuka Trainer untuk penyiapan cepat. Siapkan Trainer agar menggunakan optimizer AdamW.

AdamW telah diimpor sebelumnya dari torch.optim. Beberapa objek pelatihan telah dimuat sebelumnya: model, training_args, train_dataset, validation_dataset, compute_metrics.

Latihan ini merupakan bagian dari kursus

Pelatihan Model AI Efisien dengan PyTorch

Lihat Kursus

Instruksi latihan

  • Teruskan parameter model ke optimizer AdamW.
  • Teruskan optimizer ke Trainer.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

# Pass the model parameters to the AdamW optimizer
optimizer = ____(params=____.____())

# Pass the optimizer to Trainer
trainer = Trainer(model=model,
                  args=training_args,
                  train_dataset=train_dataset,
                  eval_dataset=validation_dataset,
                  optimizers=(____, None),
                  compute_metrics=compute_metrics)

trainer.train()
Edit dan Jalankan Kode