शुरू करेंमुफ़्त में शुरू करें

TrainingArguments निर्दिष्ट करें

आप अपने लैंग्वेज मॉडल के लिए training प्रक्रिया कॉन्फ़िगर कर रहे हैं. TrainingArguments क्लास Trainer के लिए इनपुट पैरामीटर तय करती है. इस अभ्यास में इन पैरामीटरों के मान दिए गए हैं; आम तौर पर, आपको मॉडल के लिए इन्हें ट्यून करना होगा. अपने मॉडल के लिए ऐसे arguments तैयार करें ताकि वह Trainer का उपयोग कर सके!

कुछ डेटा पहले से लोड है:

  • output_dir एक प्री-डिफ़ाइन्ड डायरेक्ट्री है
  • TrainingArguments क्लास इम्पोर्ट की जा चुकी है

यह अभ्यास पाठ्यक्रम का हिस्सा है

PyTorch के साथ कुशल AI मॉडल प्रशिक्षण

पाठ्यक्रम देखें

अभ्यास निर्देश

  • TrainingArguments क्लास का उपयोग करके training_args परिभाषित करें.
  • अपने मॉडल के pre-trained weights को फाइन-ट्यून करने के लिए learning_rate को 2e-5 पर सेट करें.
  • हर डिवाइस पर per-device train batch size को 16 पर सेट करें.
  • हर epoch पर evaluation checkpoints बनाने के लिए evaluation_strategy सेट करें.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

# Define training_args using a transformers class
training_args = TrainingArguments(
    output_dir=output_dir,
    # Set the learning rate to 2e-5
    learning_rate=____,
    # Set train batch size on each device to 16
    per_device_train_batch_size=____,
    per_device_eval_batch_size=16,
    num_train_epochs=2,
    weight_decay=0.01,
    save_strategy="epoch",
    # Set evaluation checkpoints every epoch
    evaluation_strategy=____,
)
कोड संपादित करें और चलाएँ