Trainer के साथ AdamW
आप भाषा अनुवादों को सरल बनाने के लिए एक Transformer मॉडल का प्रशिक्षण शुरू कर रहे हैं. पहले चरण में, आप AdamW ऑप्टिमाइज़र को एक बेंचमार्क के तौर पर और त्वरित सेटअप के लिए Trainer इंटरफ़ेस का उपयोग करना चुनते हैं. Trainer को AdamW optimizer का उपयोग करने के लिए सेट करें.
AdamW पहले से torch.optim से इम्पोर्ट किया गया है. कुछ training ऑब्जेक्ट पहले से लोड हैं: model, training_args, train_dataset, validation_dataset, compute_metrics.
यह अभ्यास पाठ्यक्रम का हिस्सा है
PyTorch के साथ कुशल AI मॉडल प्रशिक्षण
अभ्यास निर्देश
modelके parameters कोAdamWoptimizerमें पास करें.optimizerकोTrainerमें पास करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
# Pass the model parameters to the AdamW optimizer
optimizer = ____(params=____.____())
# Pass the optimizer to Trainer
trainer = Trainer(model=model,
args=training_args,
train_dataset=train_dataset,
eval_dataset=validation_dataset,
optimizers=(____, None),
compute_metrics=compute_metrics)
trainer.train()