BaşlayınÜcretsiz başlayın

Özel tarifleri kaydetme

Müşteri gereksinimlerde bir değişiklik istedi. Bu kez, parametre sayısını artırıp 3B parametreli Llama 3.2 modelini kullanmak istiyorlar. Sözlüğünde bu değişikliği yapıyor ve ardından bunu bir YAML dosyası olarak kaydediyorsun.

yaml kütüphanesi önceden içe aktarıldı.

Bu egzersiz, kursun bir parçasıdır

Llama 3 ile İnce Ayar (Fine-Tuning)

Kursa Göz Atın

Egzersiz talimatları

  • Sözlüğünde yeni model gereksinimini, torchtune.models.llama3_2.llama3_2_3b modelini belirt.
  • Gereksinimleri custom_recipe.yaml adlı bir YAML dosyası olarak kaydet.

Uygulamalı etkileşimli egzersiz

Bu egzersizi bu örnek kodu tamamlayarak deneyin.

config_dict = {
    # Update the model
    ____,
    "batch_size": 8,
    "device": "cuda",
    "optimizer": {"_component_": "bitsandbytes.optim.PagedAdamW8bit", "lr": 3e-05},
    "dataset": {"_component_": "custom_dataset"},
    "output_dir": "/tmp/finetune_results"
}

# Save the updated configuration to a new YAML file
with open("custom_recipe.yaml", "w") as yaml_file:
    ____
Kodu Düzenle ve Çalıştır