ПочатиПочніть безкоштовно

Задайте TrainingArguments

Ви налаштовуєте процес тренування мовної моделі. TrainingArguments задає вхідні параметри для Trainer. У цій вправі наведено значення для цих параметрів; зазвичай їх доводиться підбирати під конкретну модель. Підготуйте аргументи, щоб ваша модель могла використовувати Trainer!

Частину даних уже завантажено:

  • output_dir — це заздалегідь визначений каталог
  • Клас TrainingArguments імпортовано

Ця вправа є частиною курсу

Ефективне тренування моделей ШІ з PyTorch

Переглянути курс

Інструкції до вправи

  • Створіть training_args за допомогою класу TrainingArguments.
  • Встановіть learning_rate на 2e-5, щоб донавчити попередньо натреновані ваги моделі.
  • Встановіть розмір тренувального батчу на кожному пристрої 16.
  • Встановіть evaluation_strategy, щоб створювати контрольні точки оцінювання після кожної епохи.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

# Define training_args using a transformers class
training_args = TrainingArguments(
    output_dir=output_dir,
    # Set the learning rate to 2e-5
    learning_rate=____,
    # Set train batch size on each device to 16
    per_device_train_batch_size=____,
    per_device_eval_batch_size=16,
    num_train_epochs=2,
    weight_decay=0.01,
    save_strategy="epoch",
    # Set evaluation checkpoints every epoch
    evaluation_strategy=____,
)
Редагувати та запускати код