Initialiser la récompense

Vous êtes aux dernières étapes du déploiement d'un modèle génératif conçu pour offrir des recommandations personnalisées pour une librairie en ligne. Pour que ce modèle corresponde aux recommandations préférées par les personnes utilisatrices, vous devez entraîner un modèle de récompense à partir de données de préférences recueillies. La première étape consiste à initialiser le modèle et les paramètres de configuration.

Les objets AutoTokenizer et AutoModelForSequenceClassification ont été préchargés depuis transformers. RewardConfig a été préchargé depuis trl.

Cette activité fait partie du cours

Reinforcement Learning from Human Feedback (RLHF)

Instructions de l’exercice

Chargez le modèle GPT-1, "openai-gpt", pour la tâche de classification de séquences en utilisant AutoModelForSequenceClassification de Hugging Face.
Initialisez la configuration de la récompense en utilisant "output_dir" comme répertoire de sortie et réglez la longueur maximale des jetons à 60.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Load the pre-trained GPT-1 model for text classification
model = ____

tokenizer = AutoTokenizer.from_pretrained("openai-gpt")

# Initialize the reward configuration and set max_length
config = ____(output_dir=____, max_length=____)

Modifier et exécuter le code

Cette activité fait partie du cours

Reinforcement Learning from Human Feedback (RLHF)

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Ce chapitre présente les bases du Reinforcement Learning with Human Feedback (RLHF), une technique qui fait appel à l'intervention humaine pour aider les modèles d'IA à mieux apprendre. Commencez avec le RLHF en comprenant comment il se distingue de l'apprentissage par renforcement traditionnel et pourquoi la rétroaction humaine peut améliorer le rendement de l'IA dans divers domaines.

Exercise 1: Introduction à RLHF Exercise 2: Génération de texte avec RLHF Exercise 3: Classer du texte généré pour le RLHF Exercise 4: RL vs RLHF Exercise 5: Explorer des LLM préentraînés Exercise 6: Tokeniser un ensemble de données textuelles Exercise 7: Ajustement fin pour la classification d'avis Exercise 8: Préparer les données pour le RLHF Exercise 9: Préparer l'ensemble de données de préférences Exercise 10: Extraction des invites

Découvrez comment mettre en place des systèmes pour recueillir de la rétroaction humaine dans ce chapitre. Apprenez les pratiques exemplaires pour collecter des données de haute qualité — des comparaisons par paires à l'échantillonnage par incertitude — et explorez des stratégies pour bonifier votre collecte de données.

Exercise 1: Méthodes pour recueillir des rétroactions de grande qualité Exercise 2: Comprendre la comparaison et le rating en RLHF Exercise 3: Comparer des slogans pour une campagne de gym Exercise 4: Mesurer la qualité et la pertinence de la rétroaction Exercise 5: Faible confiance Exercise 6: K-means pour regrouper les rétroactions Exercise 7: Apprentissage actif Exercise 8: Mettre en place un pipeline d'apprentissage actif Exercise 9: Boucle d'apprentissage actif

Dans ce chapitre, vous aborderez le cœur de l'entraînement en Reinforcement Learning from Human Feedback. Cela comprend l'exploration de l'ajustement fin avec PPO, des techniques pour s'entraîner efficacement et la gestion des écarts possibles par rapport aux objectifs de vos mesures.

Exercise 1: Exploration des modèles de récompense Exercise 2: Initialiser la récompense

Exercice en cours

Exercise 3: Configurer le formateur de récompense Exercise 4: Entraînement avec PPO Exercise 5: Initialiser l'entraîneur PPO Exercise 6: Réglage fin avec PPO Exercise 7: Ajustement efficace dans le cadre du RLHF Exercise 8: Préparer l'entraînement en 8 bits Exercise 9: Entraîner avec LoRA

Explorez les principales techniques pour évaluer et améliorer le rendement des modèles dans ce dernier chapitre sur le Reinforcement Learning from Human Feedback (RLHF) : des mesures d'ajustement fin à l'intégration de sources de rétroaction variées, vous repartirez avec une trousse complète pour affiner vos modèles efficacement.

Exercise 1: Mesures du modèle et ajustements Exercise 2: Atténuer une divergence KL négative Exercise 3: Vérifier le modèle de récompense Exercise 4: Intégrer des sources de rétroaction variées Exercise 5: Vote majoritaire à partir de multiples sources de données Exercise 6: Repérage des sources de données peu fiables Exercise 7: Évaluer les modèles RLHF Exercise 8: Interpréter des courbes Exercise 9: Évaluer le RLHF avec des mesures Exercise 10: On conclut votre parcours RLHF