Sac de mots pour les titres de livres

PyBooks a maintenant une liste de titres de livres qui doivent être encodés pour une analyse ultérieure. L'équipe des données croit que le modèle Bag of Words (BoW) pourrait être la meilleure approche.

Les modules suivants ont été importés pour vous : torch, torchtext.

Cette activité fait partie du cours

Apprentissage profond pour le texte avec PyTorch

Instructions de l’exercice

Importez la classe CountVectorizer pour mettre en œuvre le sac de mots (bag-of-words).
Initialisez un objet de la classe importée, puis utilisez cet objet pour transformer titles en une représentation matricielle.
Extrayez et affichez les cinq premiers noms de caractéristiques et les titres encodés avec la méthode get_feature_names_out().

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import from sklearn
from sklearn.feature_extraction.text import ____

titles = ['The Great Gatsby','To Kill a Mockingbird','1984','The Catcher in the Rye','The Hobbit', 'Great Expectations']

# Initialize Bag-of-words with the list of book titles
vectorizer = ____()
bow_encoded_titles = ____.fit_transform(____)

# Extract and print the first five features
print(vectorizer.____[:5])
print(bow_encoded_titles.toarray()[0, :5])

Modifier et exécuter le code

Cette activité fait partie du cours

Apprentissage profond pour le texte avec PyTorch

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Ce chapitre vous présente l'apprentissage profond appliqué au texte et ses applications. Apprenez à utiliser PyTorch pour le traitement de texte et exercez-vous avec des techniques comme la tokenisation, la racinisation, le retrait des mots vides et plus encore. Comprenez l'importance d'encoder les données textuelles et mettez en œuvre des techniques d'encodage avec PyTorch. Enfin, consolidez vos acquis en construisant un canal de traitement de texte combinant ces techniques.

Exercise 1: Introduction au prétraitement du texte Exercise 2: Analyse de la fréquence des mots Exercise 3: Prétraitement de texte Exercise 4: Encodage des données textuelles Exercise 5: Titres de livres en one-hot encoding Exercise 6: Sac de mots pour les titres de livres

Exercice en cours

Exercise 7: Appliquer TF-IDF aux descriptions de livres Exercise 8: Introduction à la création d'un pipeline de traitement de texte Exercise 9: Pipeline de prétraitement du langage shakespearien Exercise 10: Encodeur de langage shakespearien

Explorez la classification de texte et son rôle en traitement du langage naturel (NLP). Mettez en pratique vos compétences pour implémenter des représentations vectorielles de mots (embeddings) et développer des réseaux de neurones convolutifs (CNN) ainsi que des réseaux de neurones récurrents (RNN) pour la classification de texte avec PyTorch, et apprenez à évaluer vos modèles avec des mesures adaptées.

Exercise 1: Aperçu de la classification de texte Exercise 2: Embedding avec PyTorch Exercise 3: Catégoriser les tâches de classification de texte Exercise 4: Réseaux neuronaux convolutifs pour la classification de texte Exercise 5: Créer un modèle CNN pour le texte Exercise 6: Entraîner un modèle CNN pour le texte Exercise 7: Mettre à l'essai le modèle CNN d'analyse de sentiment Exercise 8: Réseaux neuronaux récurrents pour la classification de texte Exercise 9: Créer un modèle RNN pour le texte Exercise 10: Créer un modèle LSTM pour le texte Exercise 11: Créer un modèle GRU pour le texte Exercise 12: Mesures d'évaluation pour la classification de texte Exercise 13: Évaluer des modèles de classification RNN Exercise 14: Évaluer la performance du modèle Exercise 15: Comparer des modèles

Plongez dans l'univers stimulant de la génération de texte et ses applications en NLP. Voyez comment exploiter les réseaux de neurones récurrents (RNN), les réseaux antagonistes génératifs (GAN) et des modèles préentraînés pour des tâches de génération de texte avec PyTorch. Vous apprendrez aussi à évaluer la performance de vos modèles avec des mesures pertinentes.

Exercise 1: Introduction à la génération de texte Exercise 2: Créer un modèle RNN pour la génération de texte Exercise 3: Génération de texte avec un RNN – Entraînement et génération Exercise 4: Réseaux antagonistes génératifs pour la génération de texte Exercise 5: Créer un générateur et un discriminateur Exercise 6: Entraîner un modèle GAN Exercise 7: Modèles préentraînés pour la génération de texte Exercise 8: Complétion de texte avec des modèles GPT-2 préentraînés Exercise 9: Traduction automatique avec un modèle PyTorch préentraîné Exercise 10: Mesures d'évaluation pour la génération de texte Exercise 11: Évaluer un modèle préentraîné de génération de texte Exercise 12: Comprendre les mesures de génération de texte

Comprenez le concept d'apprentissage par transfert et son application à la classification de texte. Explorez les Transformers, leur architecture et leur utilisation pour des tâches de classification et de génération de texte. Vous étudierez également les mécanismes d'attention et leur rôle dans le traitement du texte. Enfin, voyez les effets possibles des attaques adversariales sur les modèles de classification de texte et apprenez à protéger vos modèles.

Exercise 1: Apprentissage par transfert pour la classification de texte Exercise 2: Apprentissage par transfert avec BERT Exercise 3: Évaluer le modèle BERT Exercise 4: Transformers pour le traitement de texte Exercise 5: Créer un modèle de transformeur Exercise 6: Entraîner et tester le modèle Transformer Exercise 7: Mécanismes d'attention pour le traitement du texte Exercise 8: Créer un modèle RNN avec mécanisme d'attention Exercise 9: Entraîner et tester le modèle RNN avec attention Exercise 10: Attaques adversariales contre les modèles de classification de texte Exercise 11: Classification des attaques adverses Exercise 12: Protéger l'IA chez PyBooks Exercise 13: Récapitulatif