Chargement et inspection des modèles pré-entraînés
Vous créez un assistant d'IA conversationnel capable d'engager un dialogue de type humain sur un large éventail de sujets, en tirant parti du puissant modèle BERT qui a été pré-entraîné sur un vaste corpus de données textuelles.
Vous imprimerez la configuration pour vérifier que vous avez chargé un modèle d'IA conversationnelle avec certains paramètres comme model_type: bert, num_attention_heads: 12, et num_hidden_layers: 12.
Cet exercice fait partie du cours
Entraînement efficace de modèles d'IA avec PyTorch
Instructions
- Initialiser les paramètres du modèle avec la classe AutoModel appropriée pour charger le modèle
bert-base-uncased. - Imprimez la configuration du modèle.
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
from transformers import AutoModelForSequenceClassification
# Load a pre-trained bert-base-uncased model
model = ____.____("bert-base-uncased")
# Print the model's configuration
print(model.____)