Aangepaste recepten opslaan
De klant heeft je nu gevraagd om een wijziging in de vereisten. Dit keer willen ze het aantal parameters verhogen en het Llama 3.2-model met 3B parameters gebruiken. Je past dit aan in je woordenboek en slaat het vervolgens op als een YAML-bestand.
De yaml-bibliotheek is al geïmporteerd.
Deze oefening maakt deel uit van de cursus
Fijn-afstemmen met Llama 3
Oefeninstructies
- Specificeer de nieuwe modelvereiste, het
torchtune.models.llama3_2.llama3_2_3b-model, in je woordenboek. - Sla de vereisten op als een YAML-bestand met de naam
custom_recipe.yaml.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
config_dict = {
# Update the model
____,
"batch_size": 8,
"device": "cuda",
"optimizer": {"_component_": "bitsandbytes.optim.PagedAdamW8bit", "lr": 3e-05},
"dataset": {"_component_": "custom_dataset"},
"output_dir": "/tmp/finetune_results"
}
# Save the updated configuration to a new YAML file
with open("custom_recipe.yaml", "w") as yaml_file:
____