Özel tarifler tanımlama
Belirli yapılandırmalar isteyen bir müşteri için önceden eğitilmiş bir Llama modelini ince ayar yapıyorsun. İnce ayar için TorchTune kullanmayı planlıyorsun, bu yüzden ince ayar işini çalıştırırken kullanacağın özel tarifin gereksinimlerini saklamak için kullanabileceğin bir Python sözlüğü hazırlaman gerekiyor.
Bu egzersiz, kursun bir parçasıdır
Llama 3 ile İnce Ayar (Fine-Tuning)
Egzersiz talimatları
- Sözlüğünde müşteri gereksinimlerini belirt: önce
torchtune.models.llama3_2.llama3_2_1bmodelini ekle. - 8'lik bir batch size ve GPU aygıtı ekle.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
config_dict = {
# Define the model
____,
# Define the batch size
____,
# Define the device type
____,
"epochs": 15,
"optimizer": {"_component_": "bitsandbytes.optim.PagedAdamW8bit", "lr": 3e-05},
"dataset": {"_component_": "custom_dataset"},
"output_dir": "/tmp/finetune_results"
}