Découvrez les grands modèles de langage (LLM). Comprenez leur utilité, puis examinez leur fonctionnement interne pour mieux appréhender leur mécanisme.

Introduction aux grands modèles de langage (LLM)

Utilisation d'un pipeline pour la synthèse

Nettoyage des réponses

Utilisation de LLM pré-entraînés

Génération de texte

Traduction d’un texte

Comprendre le Transformer

Identification du transformer

Utilisation de la structure de modèle appropriée

Découvrez comment exploiter les LLM pré-entraînés et les ensembles de données de Hugging Face pour affiner un modèle.

Préparation pour l’affinage

Tokenisation de texte

Cartographie de la tokenisation

Affinage grâce à l’entraînement

Élaboration d'arguments d’entraînement

Configuration du formateur

Utilisation du modèle affiné

Approches d’affinage

Apprentissage par transfert avec apprentissage one-shot

Approches d'apprentissage par transfert

Affinage des LLM

Explorez différentes mesures pour évaluer les performances des modèles et terminez en découvrant les défis liés à l'application des LLM dans le monde réel.

La bibliothèque d'évaluation

Chargement des métriques avec evaluate

Description des indicateurs

Utilisation des indicateurs d'évaluation

Mesures pour les tâches linguistiques : perplexité et BLEU

Évaluation de la perplexité

Traductions BLEU

Indicateurs pour les tâches linguistiques : ROUGE, METEOR, EM

Évaluation avec ROUGE

Évaluation avec METEOR

Évaluation avec EM

Protection des LLM

Vérification de la toxicité

Évaluation de la considération

Ligne d’arrivée

Évaluation des performances du LLM

Les grands modèles de langage (LLM) sont devenus des outils essentiels qui sont à l'origine de certaines des avancées et applications les plus remarquables dans le domaine de l'IA aujourd'hui. Ce cours pratique vous permettra d'acquérir les connaissances et les compétences nécessaires pour comprendre, développer et exploiter la puissance des grands modèles de langage (LLM) afin de résoudre des tâches linguistiques complexes telles que la traduction, la génération de langage, la réponse à des questions, et bien plus encore. Grâce à des exercices de codage interactifs, vous apprendrez à utiliser les transformers. Vous explorerez également les modèles linguistiques pré-entraînés et les ensembles de données de Hugging Face. À la fin de ce cours, vous serez en mesure d'ajuster et d'évaluer des grands modèles de langage (LLM) pré-entraînés à l'aide de mesures spécialisées. Vous acquerrez également une compréhension des principaux défis et considérations éthiques liés à la mise en œuvre d'applications LLM dans le monde réel.

<h2>Découvrez ce qui se cache derrière l'engouement pour les grands modèles linguistiques</h2>
<br><br>
Les grands modèles de langage (LLM) sont devenus des outils essentiels à l'origine de certaines des avancées et des applications les plus étonnantes dans le paysage actuel de l'intelligence artificielle. Ce cours pratique vous apportera les connaissances pratiques et les compétences nécessaires pour comprendre, construire et exploiter la puissance des LLM pour résoudre des tâches linguistiques complexes telles que la traduction, la génération de langues, etc.
<br><br>
<h2>Découvrez l'architecture LLM et exploitez les modèles pré-entraînés</h2>
<br><br>
Grâce à des exercices de codage interactifs, vous découvrirez différentes architectures de transformateurs et comment les identifier. Vous découvrirez comment tirer parti des modèles de langage pré-entraînés et des ensembles de données de Hugging Face pour affiner et évaluer votre modèle à l'aide de métriques avancées adaptées aux LLM. Enfin, vous en saurez plus sur les problèmes d'éthique et de partialité qui se posent dans le cadre des LLM et sur les moyens de les identifier. À la fin de ce cours, vous serez en mesure de construire des LLM, de les affiner et de les évaluer à l'aide de mesures spécialisées, tout en comprenant les principaux défis et les considérations éthiques liés à la mise en œuvre d'applications LLM dans le monde réel.

Working with Hugging Face

Découvrez les bases des LLM et l'architecture révolutionnaire des transformateurs !

Introduction aux LLM en Python

Apprenez les rouages des LLM et l'architecture révolutionnaire des transformateurs sur laquelle ils reposent !

Ingénieur IA associé pour les scientifiques de données

Développer des LLM

Principes fondamentaux de Hugging Face

Principes fondamentaux de l'IA Snowflake

Évaluation avec EM

Introduction aux LLM en Python

Instructions

Exercice interactif pratique