Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

Listing TorchTune recipes

Running a TorchTune task

Preprocessing data for fine-tuning

Filtering datasets for evaluation

Creating training samples

Saving preprocessed datasets

Fine-tuning with TorchTune

Defining custom recipes

Saving custom recipes

Running custom fine-tuning

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Messa a punto del modello con Hugging Face

Configurare gli argomenti di training di Llama

Fine-tuning di Llama per il QA dell'assistenza clienti

Valuta il testo generato con ROUGE

Fine-tuning efficiente con LoRA

Uso degli adapter LoRA

Fine-tuning con LoRA di Llama per l'assistenza clienti

Rendere i modelli più piccoli con la quantizzazione

Caricare modelli a 8 bit

Velocizzare l'inferenza nei modelli quantizzati

Congratulazioni!

Fine-tuning with SFTTrainer on Hugging Face

Esegui il fine-tuning dell’LLM open-source Llama per ottimizzarne le prestazioni in applicazioni specializzate. Scopri come usare il sistema basato su ricette di TorchTune e l’SFTTrainer di Hugging Face per eseguire cicli di fine-tuning, preparando i modelli con insiemi di dati personalizzati. Infine, sperimenta tecniche a elevata efficienza dei parametri come LoRA e applica la quantizzazione per ridurre l’uso di memoria del modello ed eseguire i tuoi task in modo più efficiente.

<h2>Messa a punto del modello Llama</h2> Questo corso ti dà tutte le informazioni che ti servono per preparare e usare i modelli Llama. Grazie a esempi concreti ed esercizi pratici, imparerai come configurare varie attività di ottimizzazione di Llama. <h2>Prepara i set di dati per la messa a punto</h2> Inizia a dare un'occhiata alle tecniche di preparazione dei set di dati, come caricare, dividere e salvare i set di dati usando la libreria Hugging Face Datasets, per avere dati di alta qualità per i tuoi progetti Llama. <h2>Lavora con framework di ottimizzazione</h2> Scopri come ottimizzare i flussi di lavoro usando librerie all'avanguardia come TorchTune e SFTTrainer di Hugging Face. Imparerai a configurare ricette di ottimizzazione, impostare argomenti di formazione e usare tecniche efficienti come LoRA (Low-Rank Adaptation) e quantizzazione con BitsAndBytes per ottimizzare l'uso delle risorse. Mettendo insieme le tecniche che hai imparato durante il corso, potrai personalizzare i modelli Llama in modo efficiente per adattarli alle esigenze dei tuoi progetti.

Working with Llama 3

Ottimizza Llama per compiti personalizzati con TorchTune e impara tecniche come la quantizzazione.

Fine-tuning con Llama 3

Ottimizza Llama per attività personalizzate usando TorchTune e scopri tecniche per una messa a punto efficiente, come la quantizzazione.

Fondamenti di lama

Valuta il testo generato con ROUGE

Fine-tuning con Llama 3

Istruzioni dell'esercizio

Esercizio pratico interattivo