ПочатиПочніть безкоштовно

8-бітний Adam із Trainer

Ви налаштували оптимізатор Adam у 8-бітній точності й готові використати його для тренування. Підготуйте Trainer до роботи з 8-бітним Adam!

Деякі дані вже завантажено:

  • Оптимізатор adam_bnb_optim
  • Об’єкти для тренування: model, train_dataset і training_args

Ця вправа є частиною курсу

Ефективне тренування моделей ШІ з PyTorch

Переглянути курс

Інструкції до вправи

  • Передайте оптимізатор 8-бітного Adam до Trainer.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model, 
                  args=training_args, 
                  train_dataset=train_dataset, 
                  eval_dataset=validation_dataset,
                  compute_metrics=compute_metrics,
                  optimizers=(____, None))
Редагувати та запускати код