Tokeniser un ensemble de données textuelles

Vous faites de la recherche de marché pour un site de voyage et souhaitez utiliser un jeu de données existant pour peaufiner un modèle qui vous aidera à classifier des avis d'hôtels. Vous décidez d'utiliser la bibliothèque datasets.

La classe AutoTokenizer a été préimportée depuis transformers, et load_dataset() a été préimportée depuis datasets.

Cette activité fait partie du cours

Reinforcement Learning from Human Feedback (RLHF)

Instructions de l’exercice

Ajoutez du remplissage au tokenizer pour traiter le texte en lots de taille égale.
Tokenisez les données textuelles à l'aide du tokenizer GPT préentraîné et de la fonction définie.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

dataset = load_dataset("argilla/tripadvisor-hotel-reviews")

tokenizer = AutoTokenizer.from_pretrained("openai-gpt")

# Add padding with the pad token
tokenizer.____

def tokenize_function(examples):
   return tokenizer(examples["text"], padding="max_length", truncation=True)

# Tokenize the dataset
tokenized_datasets = dataset.map(____, batched=True)

Modifier et exécuter le code

Cette activité fait partie du cours

Reinforcement Learning from Human Feedback (RLHF)

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Ce chapitre présente les bases du Reinforcement Learning with Human Feedback (RLHF), une technique qui fait appel à l'intervention humaine pour aider les modèles d'IA à mieux apprendre. Commencez avec le RLHF en comprenant comment il se distingue de l'apprentissage par renforcement traditionnel et pourquoi la rétroaction humaine peut améliorer le rendement de l'IA dans divers domaines.

Exercise 1: Introduction à RLHF Exercise 2: Génération de texte avec RLHF Exercise 3: Classer du texte généré pour le RLHF Exercise 4: RL vs RLHF Exercise 5: Explorer des LLM préentraînés Exercise 6: Tokeniser un ensemble de données textuelles

Exercice en cours

Exercise 7: Ajustement fin pour la classification d'avis Exercise 8: Préparer les données pour le RLHF Exercise 9: Préparer l'ensemble de données de préférences Exercise 10: Extraction des invites

Découvrez comment mettre en place des systèmes pour recueillir de la rétroaction humaine dans ce chapitre. Apprenez les pratiques exemplaires pour collecter des données de haute qualité — des comparaisons par paires à l'échantillonnage par incertitude — et explorez des stratégies pour bonifier votre collecte de données.

Exercise 1: Méthodes pour recueillir des rétroactions de grande qualité Exercise 2: Comprendre la comparaison et le rating en RLHF Exercise 3: Comparer des slogans pour une campagne de gym Exercise 4: Mesurer la qualité et la pertinence de la rétroaction Exercise 5: Faible confiance Exercise 6: K-means pour regrouper les rétroactions Exercise 7: Apprentissage actif Exercise 8: Mettre en place un pipeline d'apprentissage actif Exercise 9: Boucle d'apprentissage actif

Dans ce chapitre, vous aborderez le cœur de l'entraînement en Reinforcement Learning from Human Feedback. Cela comprend l'exploration de l'ajustement fin avec PPO, des techniques pour s'entraîner efficacement et la gestion des écarts possibles par rapport aux objectifs de vos mesures.

Exercise 1: Exploration des modèles de récompense Exercise 2: Initialiser la récompense Exercise 3: Configurer le formateur de récompense Exercise 4: Entraînement avec PPO Exercise 5: Initialiser l'entraîneur PPO Exercise 6: Réglage fin avec PPO Exercise 7: Ajustement efficace dans le cadre du RLHF Exercise 8: Préparer l'entraînement en 8 bits Exercise 9: Entraîner avec LoRA

Explorez les principales techniques pour évaluer et améliorer le rendement des modèles dans ce dernier chapitre sur le Reinforcement Learning from Human Feedback (RLHF) : des mesures d'ajustement fin à l'intégration de sources de rétroaction variées, vous repartirez avec une trousse complète pour affiner vos modèles efficacement.

Exercise 1: Mesures du modèle et ajustements Exercise 2: Atténuer une divergence KL négative Exercise 3: Vérifier le modèle de récompense Exercise 4: Intégrer des sources de rétroaction variées Exercise 5: Vote majoritaire à partir de multiples sources de données Exercise 6: Repérage des sources de données peu fiables Exercise 7: Évaluer les modèles RLHF Exercise 8: Interpréter des courbes Exercise 9: Évaluer le RLHF avec des mesures Exercise 10: On conclut votre parcours RLHF