Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

Le librerie per il fine-tuning di Llama

Elencare le ricette TorchTune

Eseguire un task TorchTune

Pre-elaborazione dei dati per il fine-tuning

Filtrare gli insiemi di dati per la valutazione

Creare esempi di training

Salvataggio degli insiemi di dati preelaborati

Fine-tuning con TorchTune

Definire ricette personalizzate

Salvare ricette personalizzate

Eseguire un fine-tuning personalizzato

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model fine-tuning with Hugging Face

Setting up Llama training arguments

Fine-tuning Llama for customer service QA

Evaluate generated text using ROUGE

Efficient fine-tuning with LoRA

Using LoRA adapters

LoRA fine-tuning Llama for customer service

Making models smaller with quantization

Loading 8-bit models

Speeding up inference in quantized models

Congratulations!

Fine-tuning with SFTTrainer on Hugging Face

Esegui il fine-tuning dell’LLM open-source Llama per ottimizzarne le prestazioni in applicazioni specializzate. Scopri come usare il sistema basato su ricette di TorchTune e l’SFTTrainer di Hugging Face per eseguire cicli di fine-tuning, preparando i modelli con insiemi di dati personalizzati. Infine, sperimenta tecniche a elevata efficienza dei parametri come LoRA e applica la quantizzazione per ridurre l’uso di memoria del modello ed eseguire i tuoi task in modo più efficiente.

<h2>Messa a punto del modello Llama</h2> Questo corso ti dà tutte le informazioni che ti servono per preparare e usare i modelli Llama. Grazie a esempi concreti ed esercizi pratici, imparerai come configurare varie attività di ottimizzazione di Llama. <h2>Prepara i set di dati per la messa a punto</h2> Inizia a dare un'occhiata alle tecniche di preparazione dei set di dati, come caricare, dividere e salvare i set di dati usando la libreria Hugging Face Datasets, per avere dati di alta qualità per i tuoi progetti Llama. <h2>Lavora con framework di ottimizzazione</h2> Scopri come ottimizzare i flussi di lavoro usando librerie all'avanguardia come TorchTune e SFTTrainer di Hugging Face. Imparerai a configurare ricette di ottimizzazione, impostare argomenti di formazione e usare tecniche efficienti come LoRA (Low-Rank Adaptation) e quantizzazione con BitsAndBytes per ottimizzare l'uso delle risorse. Mettendo insieme le tecniche che hai imparato durante il corso, potrai personalizzare i modelli Llama in modo efficiente per adattarli alle esigenze dei tuoi progetti.

Working with Llama 3

Ottimizza Llama per compiti personalizzati con TorchTune e impara tecniche come la quantizzazione.

Fine-tuning con Llama 3

Ottimizza Llama per attività personalizzate usando TorchTune e scopri tecniche per una messa a punto efficiente, come la quantizzazione.

Fondamenti di lama

Eseguire un task TorchTune

Fine-tuning con Llama 3

Esercizio pratico interattivo