Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

De Llama-finetuningbibliotheken

TorchTune-recepten weergeven

Een TorchTune-taak uitvoeren

Data voorbereiden voor fine-tuning

Gegevenssets filteren voor evaluatie

Trainingsvoorbeelden maken

Voorbewerkte gegevenssets opslaan

Fine-tunen met TorchTune

Aangepaste recepten definiëren

Aangepaste recepten opslaan

Aangepaste fine-tuning uitvoeren

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model fine-tuning with Hugging Face

Setting up Llama training arguments

Fine-tuning Llama for customer service QA

Evaluate generated text using ROUGE

Efficient fine-tuning with LoRA

Using LoRA adapters

LoRA fine-tuning Llama for customer service

Making models smaller with quantization

Loading 8-bit models

Speeding up inference in quantized models

Congratulations!

Fine-tuning with SFTTrainer on Hugging Face

Stem de open-source Llama-LLM fijn af om de prestaties voor gespecialiseerde toepassingen te optimaliseren. Leer hoe je het receptgebaseerde systeem van TorchTune en de SFTTrainer van Hugging Face gebruikt om fine-tuningloops uit te voeren en je modellen voor te bereiden met aangepaste gegevenssets. Experimenteer tot slot met parameter-efficiënte technieken zoals LoRA en pas kwantisatie toe om het geheugengebruik van het model te verlagen en je taken efficiënter uit te voeren.

<h2>Het Llama-model nog wat bijschaven</h2> Deze cursus is een complete handleiding voor het maken en werken met Llama-modellen. Met behulp van praktische voorbeelden en oefeningen leer je hoe je verschillende Llama-fijnafstemmingstaken kunt instellen. <h2>Maak datasets klaar voor het afstemmen</h2> Begin met het verkennen van technieken voor het voorbereiden van datasets, zoals het laden, splitsen en opslaan van datasets met behulp van de Hugging Face Datasets-bibliotheek, zodat je verzekerd bent van hoogwaardige data voor je Llama-projecten. <h2>Werk met frameworks voor fijnafstemming</h2> Check eens hoe je workflows kunt finetunen met toffe bibliotheken zoals TorchTune en SFTTrainer van Hugging Face. Je leert hoe je recepten kunt afstemmen, trainingsargumenten kunt instellen en handige technieken zoals LoRA (Low-Rank Adaptation) en kwantisering met BitsAndBytes kunt gebruiken om je gebruik van bronnen te optimaliseren. Door de technieken die je tijdens de cursus hebt geleerd te combineren, kun je Llama-modellen op een efficiënte manier aanpassen aan de behoeften van je projecten.

Working with Llama 3

Stem Llama af voor specifieke taken met TorchTune en leer efficiënte technieken zoals kwantisatie.

Fijn-afstemmen met Llama 3

Pas Llama aan voor je eigen taken met TorchTune en leer handige technieken voor efficiënte aanpassingen, zoals kwantisering.

Basisinfo over lama's

TorchTune-recepten weergeven

Fijn-afstemmen met Llama 3

Praktische interactieve oefening