Esplora le opzioni per il fine-tuning dei modelli Llama 3 e scopri TorchTune, una libreria creata per semplificare il fine-tuning. Questo capitolo ti guida nella preparazione dei dati, nel sistema basato su ricette di TorchTune e nella configurazione efficiente dei task, fornendoti i passaggi chiave per avviare il tuo primo task di fine-tuning.

Le librerie per il fine-tuning di Llama

Elencare le ricette TorchTune

Eseguire un task TorchTune

Pre-elaborazione dei dati per il fine-tuning

Filtrare gli insiemi di dati per la valutazione

Creare esempi di training

Salvataggio degli insiemi di dati preelaborati

Fine-tuning con TorchTune

Definire ricette personalizzate

Salvare ricette personalizzate

Eseguire un fine-tuning personalizzato

Prepararsi al fine-tuning di Llama

Scopri come il fine-tuning può migliorare sensibilmente le prestazioni dei modelli più piccoli su task specifici. Inizia con il fine-tuning dei modelli Llama più compatti per potenziarne le capacità mirate. Poi, approfondisci tecniche di fine-tuning a elevata efficienza dei parametri come LoRA ed esplora la quantizzazione per caricare e usare modelli ancora più grandi.

Messa a punto del modello con Hugging Face

Configurare gli argomenti di training di Llama

Fine-tuning di Llama per il QA dell'assistenza clienti

Valuta il testo generato con ROUGE

Fine-tuning efficiente con LoRA

Uso degli adapter LoRA

Fine-tuning con LoRA di Llama per l'assistenza clienti

Rendere i modelli più piccoli con la quantizzazione

Caricare modelli a 8 bit

Velocizzare l'inferenza nei modelli quantizzati

Congratulazioni!

Fine-tuning con SFTTrainer su Hugging Face

Esegui il fine-tuning dell’LLM open-source Llama per ottimizzarne le prestazioni in applicazioni specializzate. Scopri come usare il sistema basato su ricette di TorchTune e l’SFTTrainer di Hugging Face per eseguire cicli di fine-tuning, preparando i modelli con insiemi di dati personalizzati. Infine, sperimenta tecniche a elevata efficienza dei parametri come LoRA e applica la quantizzazione per ridurre l’uso di memoria del modello ed eseguire i tuoi task in modo più efficiente.

<h2>Messa a punto del modello Llama</h2> Questo corso ti dà tutte le informazioni che ti servono per preparare e usare i modelli Llama. Grazie a esempi concreti ed esercizi pratici, imparerai come configurare varie attività di ottimizzazione di Llama. <h2>Prepara i set di dati per la messa a punto</h2> Inizia a dare un'occhiata alle tecniche di preparazione dei set di dati, come caricare, dividere e salvare i set di dati usando la libreria Hugging Face Datasets, per avere dati di alta qualità per i tuoi progetti Llama. <h2>Lavora con framework di ottimizzazione</h2> Scopri come ottimizzare i flussi di lavoro usando librerie all'avanguardia come TorchTune e SFTTrainer di Hugging Face. Imparerai a configurare ricette di ottimizzazione, impostare argomenti di formazione e usare tecniche efficienti come LoRA (Low-Rank Adaptation) e quantizzazione con BitsAndBytes per ottimizzare l'uso delle risorse. Mettendo insieme le tecniche che hai imparato durante il corso, potrai personalizzare i modelli Llama in modo efficiente per adattarli alle esigenze dei tuoi progetti.

Working with Llama 3

Ottimizza Llama per compiti personalizzati con TorchTune e impara tecniche come la quantizzazione.

Fine-tuning con Llama 3

Ottimizza Llama per attività personalizzate usando TorchTune e scopri tecniche per una messa a punto efficiente, come la quantizzazione.

Fondamenti di lama

Eseguire un fine-tuning personalizzato

Fine-tuning con Llama 3

esercizio interattivo pratico