Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

Listing TorchTune recipes

Running a TorchTune task

Preprocessing data for fine-tuning

Filtering datasets for evaluation

Creating training samples

Saving preprocessed datasets

Fine-tuning with TorchTune

Defining custom recipes

Saving custom recipes

Running custom fine-tuning

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model finetunen met Hugging Face

Llama-trainingsargumenten instellen

Llama fine-tunen voor klantenservice-QA

Gegenereerde tekst evalueren met ROUGE

Efficiënt fine-tunen met LoRA

LoRA-adapters gebruiken

LoRA-finetuning van Llama voor klantenservice

Modellen kleiner maken met kwantisatie

8-bitmodellen laden

Inference versnellen in gequantiseerde modellen

Gefeliciteerd!

Fine-tuning with SFTTrainer on Hugging Face

Stem de open-source Llama-LLM fijn af om de prestaties voor gespecialiseerde toepassingen te optimaliseren. Leer hoe je het receptgebaseerde systeem van TorchTune en de SFTTrainer van Hugging Face gebruikt om fine-tuningloops uit te voeren en je modellen voor te bereiden met aangepaste gegevenssets. Experimenteer tot slot met parameter-efficiënte technieken zoals LoRA en pas kwantisatie toe om het geheugengebruik van het model te verlagen en je taken efficiënter uit te voeren.

<h2>Het Llama-model nog wat bijschaven</h2> Deze cursus is een complete handleiding voor het maken en werken met Llama-modellen. Met behulp van praktische voorbeelden en oefeningen leer je hoe je verschillende Llama-fijnafstemmingstaken kunt instellen. <h2>Maak datasets klaar voor het afstemmen</h2> Begin met het verkennen van technieken voor het voorbereiden van datasets, zoals het laden, splitsen en opslaan van datasets met behulp van de Hugging Face Datasets-bibliotheek, zodat je verzekerd bent van hoogwaardige data voor je Llama-projecten. <h2>Werk met frameworks voor fijnafstemming</h2> Check eens hoe je workflows kunt finetunen met toffe bibliotheken zoals TorchTune en SFTTrainer van Hugging Face. Je leert hoe je recepten kunt afstemmen, trainingsargumenten kunt instellen en handige technieken zoals LoRA (Low-Rank Adaptation) en kwantisering met BitsAndBytes kunt gebruiken om je gebruik van bronnen te optimaliseren. Door de technieken die je tijdens de cursus hebt geleerd te combineren, kun je Llama-modellen op een efficiënte manier aanpassen aan de behoeften van je projecten.

Working with Llama 3

Stem Llama af voor specifieke taken met TorchTune en leer efficiënte technieken zoals kwantisatie.

Fijn-afstemmen met Llama 3

Pas Llama aan voor je eigen taken met TorchTune en leer handige technieken voor efficiënte aanpassingen, zoals kwantisering.

Basisinfo over lama's

8-bitmodellen laden

Fijn-afstemmen met Llama 3

Oefeninstructies

Praktische interactieve oefening