Compromis précision-rappel

Dans les tâches de classification, on parle souvent du compromis précision-rappel. D'où vient-il?

Habituellement, on assigne le document à la classe ayant la probabilité la plus élevée. Mais si la probabilité maximale est égale à 0.1, que faire? Devez-vous considérer que ce document appartient à cette classe avec seulement 10 % de probabilité?

La réponse dépend du problème à résoudre. On peut ajouter un seuil minimal pour accepter la classification, et en faisant varier ce seuil, les valeurs de la précision et du rappel évoluent en sens inverse.

Les variables y_true et le modèle model sont chargés. De plus, si la probabilité est inférieure au seuil, le document sera assigné à DEFAULT_CLASS (définie comme la classe 2).

Cette activité fait partie du cours

Réseaux de neurones récurrents (RNN) pour la modélisation du langage avec Keras

Instructions de l’exercice

Utilisez la méthode .predict() pour obtenir les probabilités de chaque classe et enregistrez-les dans la variable pred_probabilities.
Acceptez la probabilité maximale seulement si elle est supérieure ou égale à 0.5 et stockez les résultats dans la variable y_pred_50.
Utilisez les fonctions np.argmax() et np.max() pour faire la même chose avec un seuil égal à 0.8.
Affichez la variable trade_off avec toutes les mesures.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Get probabilities for each class
pred_probabilities = model.____(X_test)

# Thresholds at 0.5 and 0.8
y_pred_50 = [np.argmax(x) if np.max(x) >= ____ else DEFAULT_CLASS for x in pred_probabilities]
y_pred_80 = [np.____(x) if np.____(x) >= 0.8 else DEFAULT_CLASS for x in pred_probabilities]

trade_off = pd.DataFrame({
    'Precision_50': precision_score(y_true, y_pred_50, average=None), 
    'Precision_80': precision_score(y_true, y_pred_80, average=None), 
    'Recall_50': recall_score(y_true, y_pred_50, average=None), 
    'Recall_80': recall_score(y_true, y_pred_80, average=None)}, 
  index=['Class 1', 'Class 2', 'Class 3'])

____

Modifier et exécuter le code

Cette activité fait partie du cours

Réseaux de neurones récurrents (RNN) pour la modélisation du langage avec Keras

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Dans ce chapitre, vous verrez les bases des réseaux de neurones récurrents (RNN). Après quelques préalables, vous comprendrez comment l'information circule dans le réseau et, pour finir, comment implémenter de tels modèles avec Keras pour une tâche de classification de sentiments.

Exercise 1: Introduction au cours Exercise 2: Comparer le nombre de paramètres d'un RNN et d'un ANN Exercise 3: Analyse de sentiments Exercise 4: Modèles « sequence to sequence »Exercise 5: Introduction aux modèles de langue Exercise 6: Se familiariser avec les données textuelles Exercise 7: Préparer des données textuelles pour l'entrée du modèle Exercise 8: Transformer un nouveau texte Exercise 9: Introduction aux RNN dans Keras Exercise 10: Modèles Keras Exercise 11: Prétraitement avec Keras Exercise 12: Votre premier modèle RNN

Vous apprendrez les problèmes de gradients qui s'évanouissent et qui explosent, fréquents dans les RNN, ainsi que la façon d'y faire face avec les cellules GRU et LSTM. De plus, vous créerez des couches d'intégration (embeddings) pour des modèles de langage et vous reprendrez la tâche de classification de sentiments.

Exercise 1: Gradients qui s'évanouissent et qui explosent Exercise 2: Problème de gradient explosif Exercise 3: Problème de gradient qui s'annule Exercise 4: Cellules GRU et LSTM Exercise 5: Les cellules GRU surpassent les SimpleRNN Exercise 6: Empiler des couches RNN Exercise 7: La couche Embedding Exercise 8: Comparaison du nombre de paramètres Exercise 9: Apprentissage par transfert Exercise 10: Les embeddings améliorent la performance Exercise 11: Classification des sentiments : retour Exercise 12: Meilleure classification de sentiments Exercise 13: Utiliser la couche CNN

Dans ce chapitre, vous apprendrez à préparer les données pour une tâche de classification multiclasse, ainsi que les différences entre la classification multiclasse et la classification binaire (analyse de sentiments). Enfin, vous verrez comment créer des modèles et mesurer leur performance avec Keras.

Exercise 1: Prétraitement des données Exercise 2: Préparer les vecteurs d'étiquettes Exercise 3: Prétraiter les données Exercise 4: Apprentissage par transfert pour les modèles de langue Exercise 5: Point de départ de l'apprentissage par transfert Exercise 6: Word2Vec Exercise 7: Modèles de classification multiclasse Exercise 8: Explorer l'ensemble de données 20 News Groups Exercise 9: Classer des articles de presse Exercise 10: Évaluer la performance du modèle Exercise 11: Compromis précision-rappel

Exercice en cours

Exercise 12: Précision ou Rappel, telle est la question Exercise 13: Performance en classification multiclasse

Ce chapitre vous présente deux applications des modèles RNN : la génération de texte et la traduction automatique neuronale. Vous apprendrez à préparer les données textuelles selon le format requis par les modèles. Le modèle de génération de texte sert à reproduire la façon de s'exprimer d'un personnage et nous nous amuserons à imiter Sheldon de The Big Bang Theory. La traduction automatique neuronale est utilisée, par exemple, par Google Traduction dans un modèle beaucoup plus complexe. Dans ce chapitre, vous créerez un modèle qui traduit de courtes phrases portugaises en anglais.

Exercise 1: Modèles séquence à séquence Exercise 2: Exemples de génération de texte Exercise 3: Exemple de NMT Exercise 4: La fonction de génération de texte Exercise 5: Prédire le prochain caractère Exercise 6: Générer une phrase avec contexte Exercise 7: Modifier l'échelle de probabilité Exercise 8: Modèles de génération de texte Exercise 9: Créer des vecteurs de phrases et de caractères suivants Exercise 10: Préparer les données pour l'entraînement Exercise 11: Créer le modèle de génération de texte Exercise 12: Traduction automatique neuronale Exercise 13: Préparer le texte d'entrée Exercise 14: Préparer le texte de sortie Exercise 15: Traduire du portugais vers l'anglais Exercise 16: Félicitations !