Évaluer le modèle BERT
Après avoir tokenisé les avis d’exemple à l’aide du tokenizer de BERT, il est temps d’évaluer le modèle BERT avec les exemples de PyBooks. Vous évaluerez également la prédiction de sentiment du modèle sur de nouvelles données.
Les éléments suivants ont été importés pour vous : BertTokenizer, BertForSequenceClassification, torch.
L’instance entraînée model est aussi préchargée. Nous allons maintenant la tester sur un nouvel échantillon de données.
Cet exercice fait partie du cours
Deep Learning pour le texte avec PyTorch
Instructions
- Préparez le texte d’évaluation pour le modèle en le tokenisant et en renvoyant des tenseurs PyTorch.
- Convertissez les logits de sortie en probabilités entre zéro et un.
- Affichez les sentiments à partir des probabilités.
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
text = "I had an awesome day!"
# Tokenize the text and return PyTorch tensors
input_eval = tokenizer(____, return_tensors=____, truncation=True, padding=True, max_length=32)
outputs_eval = model(**input_eval)
# Convert the output logits to probabilities
predictions = torch.nn.functional.____(outputs_eval.____, dim=-1)
# Display the sentiments
predicted_label = ____ if torch.____(predictions) > 0 else ____
print(f"Text: {text}\nSentiment: {predicted_label}")