Analyse de la fréquence des mots

Félicitations ! Vous venez de vous joindre à PyBooks. PyBooks développe un système de recommandation de livres et souhaite repérer des tendances et des motifs dans le texte pour améliorer ses recommandations.

Pour commencer, vous devez comprendre la fréquence des mots dans un texte donné et retirer les mots rares.

Notez que les jeux de données réels typiques seront plus grands que cet exemple.

Cette activité fait partie du cours

Apprentissage profond pour le texte avec PyTorch

Instructions de l’exercice

Importez get_tokenizer depuis torchtext et FreqDist depuis la bibliothèque nltk.
Initialisez le segmentateur pour l'anglais et segmentez le text fourni.
Calculez la distribution de fréquence des tokens et retirez les mots rares à l'aide d'une compréhension de liste.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import the necessary functions
from torchtext.data.utils import ____
from nltk.probability import ____

text = "In the city of Dataville, a data analyst named Alex explores hidden insights within vast data. With determination, Alex uncovers patterns, cleanses the data, and unlocks innovation. Join this adventure to unleash the power of data-driven decisions."

# Initialize the tokenizer and tokenize the text
tokenizer = ____("basic_english")
tokens = tokenizer(____)

threshold = 1
# Remove rare words and print common tokens
freq_dist = ____(____)
common_tokens = [token for token in tokens if ____[token] > ____]
print(common_tokens)

Modifier et exécuter le code

Cette activité fait partie du cours

Apprentissage profond pour le texte avec PyTorch

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Ce chapitre vous présente l'apprentissage profond appliqué au texte et ses applications. Apprenez à utiliser PyTorch pour le traitement de texte et exercez-vous avec des techniques comme la tokenisation, la racinisation, le retrait des mots vides et plus encore. Comprenez l'importance d'encoder les données textuelles et mettez en œuvre des techniques d'encodage avec PyTorch. Enfin, consolidez vos acquis en construisant un canal de traitement de texte combinant ces techniques.

Exercise 1: Introduction au prétraitement du texte Exercise 2: Analyse de la fréquence des mots

Exercice en cours

Exercise 3: Prétraitement de texte Exercise 4: Encodage des données textuelles Exercise 5: Titres de livres en one-hot encoding Exercise 6: Sac de mots pour les titres de livres Exercise 7: Appliquer TF-IDF aux descriptions de livres Exercise 8: Introduction à la création d'un pipeline de traitement de texte Exercise 9: Pipeline de prétraitement du langage shakespearien Exercise 10: Encodeur de langage shakespearien

Explorez la classification de texte et son rôle en traitement du langage naturel (NLP). Mettez en pratique vos compétences pour implémenter des représentations vectorielles de mots (embeddings) et développer des réseaux de neurones convolutifs (CNN) ainsi que des réseaux de neurones récurrents (RNN) pour la classification de texte avec PyTorch, et apprenez à évaluer vos modèles avec des mesures adaptées.

Exercise 1: Aperçu de la classification de texte Exercise 2: Embedding avec PyTorch Exercise 3: Catégoriser les tâches de classification de texte Exercise 4: Réseaux neuronaux convolutifs pour la classification de texte Exercise 5: Créer un modèle CNN pour le texte Exercise 6: Entraîner un modèle CNN pour le texte Exercise 7: Mettre à l'essai le modèle CNN d'analyse de sentiment Exercise 8: Réseaux neuronaux récurrents pour la classification de texte Exercise 9: Créer un modèle RNN pour le texte Exercise 10: Créer un modèle LSTM pour le texte Exercise 11: Créer un modèle GRU pour le texte Exercise 12: Mesures d'évaluation pour la classification de texte Exercise 13: Évaluer des modèles de classification RNN Exercise 14: Évaluer la performance du modèle Exercise 15: Comparer des modèles

Plongez dans l'univers stimulant de la génération de texte et ses applications en NLP. Voyez comment exploiter les réseaux de neurones récurrents (RNN), les réseaux antagonistes génératifs (GAN) et des modèles préentraînés pour des tâches de génération de texte avec PyTorch. Vous apprendrez aussi à évaluer la performance de vos modèles avec des mesures pertinentes.

Exercise 1: Introduction à la génération de texte Exercise 2: Créer un modèle RNN pour la génération de texte Exercise 3: Génération de texte avec un RNN – Entraînement et génération Exercise 4: Réseaux antagonistes génératifs pour la génération de texte Exercise 5: Créer un générateur et un discriminateur Exercise 6: Entraîner un modèle GAN Exercise 7: Modèles préentraînés pour la génération de texte Exercise 8: Complétion de texte avec des modèles GPT-2 préentraînés Exercise 9: Traduction automatique avec un modèle PyTorch préentraîné Exercise 10: Mesures d'évaluation pour la génération de texte Exercise 11: Évaluer un modèle préentraîné de génération de texte Exercise 12: Comprendre les mesures de génération de texte

Comprenez le concept d'apprentissage par transfert et son application à la classification de texte. Explorez les Transformers, leur architecture et leur utilisation pour des tâches de classification et de génération de texte. Vous étudierez également les mécanismes d'attention et leur rôle dans le traitement du texte. Enfin, voyez les effets possibles des attaques adversariales sur les modèles de classification de texte et apprenez à protéger vos modèles.

Exercise 1: Apprentissage par transfert pour la classification de texte Exercise 2: Apprentissage par transfert avec BERT Exercise 3: Évaluer le modèle BERT Exercise 4: Transformers pour le traitement de texte Exercise 5: Créer un modèle de transformeur Exercise 6: Entraîner et tester le modèle Transformer Exercise 7: Mécanismes d'attention pour le traitement du texte Exercise 8: Créer un modèle RNN avec mécanisme d'attention Exercise 9: Entraîner et tester le modèle RNN avec attention Exercise 10: Attaques adversariales contre les modèles de classification de texte Exercise 11: Classification des attaques adverses Exercise 12: Protéger l'IA chez PyBooks Exercise 13: Récapitulatif