Explorez les options d’ajustement fin des modèles Llama 3 et plongez dans TorchTune, une bibliothèque conçue pour simplifier ce processus. Ce chapitre vous guide dans la préparation des données, le système de recettes de TorchTune et la configuration efficace des tâches, en vous donnant les étapes clés pour lancer votre premier ajustement fin.

Les bibliothèques de réglage fin de Llama

Lister les recettes TorchTune

Lancer une tâche TorchTune

Prétraiter les données pour l’affinage

Filtrer des jeux de données pour l’évaluation

Créer des exemples d’entraînement

Enregistrer des jeux de données prétraités

Affiner avec TorchTune

Définir des recettes personnalisées

Enregistrer des recettes personnalisées

Lancer un fine-tuning personnalisé

Se préparer à l’ajustement fin de Llama

Découvrez comment l’ajustement fin peut améliorer sensiblement les performances de modèles plus petits sur des tâches spécifiques. Commencez par ajuster de petits modèles Llama pour renforcer leurs capacités ciblées. Ensuite, explorez des techniques d’ajustement fin efficaces en paramètres comme LoRA, et découvrez la quantification pour charger et utiliser des modèles encore plus grands.

Ajuster un modèle avec Hugging Face

Configurer les arguments d’entraînement de Llama

Ajuster Llama pour la FAQ du service client

Évaluer un texte généré avec ROUGE

Un réglage fin efficace avec LoRA

Utiliser des adaptateurs LoRA

Ajustement fin de Llama avec LoRA pour le service client

Rendre les modèles plus compacts grâce à la quantification

Charger des modèles en 8 bits

Accélérer l’inférence dans des modèles quantifiés

Félicitations !

Ajustement fin avec SFTTrainer sur Hugging Face

Ajustez finement le LLM open source Llama pour optimiser ses performances sur des applications spécialisées. Découvrez le système de recettes de TorchTune et le SFTTrainer de Hugging Face pour exécuter des boucles d’ajustement fin et préparer vos modèles avec des jeux de données personnalisés. Enfin, expérimentez des techniques efficaces en paramètres comme LoRA et appliquez la quantification pour réduire l’empreinte mémoire du modèle et exécuter vos tâches plus efficacement.

<h2>Ajustement du modèle Llama</h2> Ce cours fournit un guide complet pour la préparation et l'utilisation des modèles Llama. Grâce à des exemples concrets et des exercices pratiques, vous apprendrez à configurer diverses tâches de réglage fin de Llama. <h2>Préparez les ensembles de données pour le réglage fin.</h2> Commencez par explorer les techniques de préparation des ensembles de données, notamment le chargement, le fractionnement et l'enregistrement des ensembles de données à l'aide de la bibliothèque Hugging Face Datasets, afin de garantir la qualité des données pour vos projets Llama. <h2>Travailler avec des cadres de réglage fin</h2> Découvrez comment affiner vos workflows à l'aide de bibliothèques de pointe telles que TorchTune et SFTTrainer de Hugging Face. Vous apprendrez à configurer des recettes de réglage fin, à mettre en place des arguments de formation et à utiliser des techniques efficaces telles que LoRA (Low-Rank Adaptation) et la quantification à l'aide de BitsAndBytes afin d'optimiser l'utilisation des ressources. En combinant les techniques acquises tout au long du cours, vous serez en mesure de personnaliser les modèles Llama afin de répondre efficacement aux besoins de vos projets.

Working with Llama 3

Ajustez Llama pour des tâches personnalisées avec TorchTune et apprenez des techniques comme la quantification.

Ajustement fin avec Llama 3

Optimisez Llama pour des tâches personnalisées grâce à TorchTune et découvrez des techniques d'optimisation telles que la quantification.

Les fondamentaux du lama

Enregistrer des jeux de données prétraités

Ajustement fin avec Llama 3

Instructions

Exercice interactif pratique