Préparer le jeu de données de préférences

Dans cet exercice, vous allez travailler avec un jeu de données qui contient des retours humains sous forme de sorties « chosen » et « rejected ». Votre objectif est d'extraire les prompts depuis la colonne « chosen » et de préparer les données pour l'entraînement d'un modèle de récompense.

La fonction load_dataset de datasets a déjà été importée.

Cet exercice fait partie du cours

<cours>Reinforcement Learning from Human Feedback (RLHF)</cours>

Instructions de l’exercice

Chargez le jeu de données qgallouedec/hh-rlhf-helpful-base-trl-style depuis Hugging Face.
Écrivez une fonction qui extrait le prompt du champ 'content', en supposant que le prompt se trouve à l'index 0 de l'entrée de la fonction.
Appliquez la fonction d'extraction du prompt au sous-ensemble de jeu de données 'chosen'.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Load the dataset
preference_data = ____

# Define a function to extract the prompt
def extract_prompt(text):
    ____
    return prompt

# Apply the function to the dataset 
preference_data_with_prompt = ____(
    lambda sample: {**sample, 'prompt': ____(sample['chosen'])}
)

sample = preference_data_with_prompt.select(range(1))
print(sample['prompt'])

Modifier et exécuter le code

Cet exercice fait partie du cours

<cours>Reinforcement Learning from Human Feedback (RLHF)</cours>

AvancéNiveau de compétence

4.8+

Commencer le cours gratuitement

Ce chapitre présente les bases du Reinforcement Learning with Human Feedback (RLHF), une approche qui s’appuie sur des retours humains pour aider les modèles d’IA à apprendre plus efficacement. Commencez avec le RLHF en comprenant en quoi il diffère de l’apprentissage par renforcement classique et pourquoi les retours humains peuvent améliorer les performances de l’IA dans divers domaines.

Exercise 1: Introduction au RLHF Exercise 2: Génération de texte avec RLHF Exercise 3: Classer du texte généré pour le RLHF Exercise 4: RL vs RLHF Exercise 5: Explorer les LLM préentraînés Exercise 6: Tokeniser un jeu de données textuel Exercise 7: Ajustement fin pour la classification des avis Exercise 8: Préparer les données pour le RLHF Exercise 9: Préparer le jeu de données de préférences

Exercice actuel

Exercise 10: Extraire les prompts

Découvrez comment mettre en place des systèmes de collecte de retours humains dans ce chapitre. Apprenez les bonnes pratiques pour constituer des données de haute qualité — des comparaisons par paires à l’échantillonnage par incertitude — et explorez des stratégies pour renforcer votre collecte de données.

Exercise 1: Méthodes pour collecter des retours de haute qualité Exercise 2: Comprendre la comparaison et l’évaluation en RLHF Exercise 3: Comparer des slogans pour une campagne de salle de sport Exercise 4: Mesurer la qualité et la pertinence des retours Exercise 5: Faible confiance Exercise 6: K-means pour le regroupement des retours Exercise 7: Apprentissage actif Exercise 8: Mettre en place un pipeline d’active learning Exercise 9: Boucle d’active learning

Dans ce chapitre, vous entrerez au cœur de l’entraînement en Reinforcement Learning from Human Feedback. Vous explorerez notamment le fine-tuning avec PPO, des techniques pour s’entraîner efficacement et la gestion des divergences possibles par rapport aux objectifs de vos métriques.

Exercise 1: Exploration des modèles de récompense Exercise 2: Initialiser la récompense Exercise 3: Configurer le formateur de récompense Exercise 4: Entraîner avec PPO Exercise 5: Initialiser l’entraîneur PPO Exercise 6: Ajustement fin avec PPO Exercise 7: Un réglage fin efficace en RLHF Exercise 8: Préparer l’entraînement en 8 bits Exercise 9: Entraîner avec LoRA

Explorez les techniques essentielles pour évaluer et améliorer les performances des modèles dans ce dernier chapitre sur le Reinforcement Learning from Human Feedback (RLHF) : des métriques de fine-tuning à l’intégration de sources de retours variées, vous disposerez d’une boîte à outils complète pour affiner vos modèles avec efficacité.

Exercise 1: Métriques et ajustements du modèle Exercise 2: Atténuer une divergence KL négative Exercise 3: Vérifier le modèle de récompense Exercise 4: Intégrer des sources de retour d’information variées Exercise 5: Vote majoritaire sur plusieurs sources de données Exercise 6: Identifier une source de données peu fiable Exercise 7: Évaluer des modèles RLHF Exercise 8: Interpréter des courbes Exercise 9: Évaluer le RLHF avec des métriques Exercise 10: Conclusion de votre parcours RLHF