НачатьНачать бесплатно

Сохранение пользовательских рецептов

Клиент внёс изменения в требования. На этот раз он хочет увеличить количество параметров и использовать модель Llama 3.2 с 3 млрд параметров. Вы вносите это изменение в словарь, а затем сохраняете его в виде файла YAML.

Библиотека yaml уже импортирована.

Это упражнение является частью курса

Файн-тюнинг с Llama 3

Посмотреть курс

Инструкции к упражнению

  • Укажите новое требование к модели — torchtune.models.llama3_2.llama3_2_3b — в вашем словаре.
  • Сохраните требования в виде файла YAML с именем custom_recipe.yaml.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

config_dict = {
    # Update the model
    ____,
    "batch_size": 8,
    "device": "cuda",
    "optimizer": {"_component_": "bitsandbytes.optim.PagedAdamW8bit", "lr": 3e-05},
    "dataset": {"_component_": "custom_dataset"},
    "output_dir": "/tmp/finetune_results"
}

# Save the updated configuration to a new YAML file
with open("custom_recipe.yaml", "w") as yaml_file:
    ____
Редактировать и запускать код