Caricare e ispezionare modelli pre-addestrati
Stai creando un assistente di AI conversazionale in grado di sostenere dialoghi naturali su un'ampia gamma di argomenti, sfruttando il potente modello BERT pre-addestrato su un vasto corpus di testi.
Stamperai la configurazione per verificare di aver caricato un modello conversazionale con alcuni parametri specifici come model_type: bert, num_attention_heads: 12 e num_hidden_layers: 12.
Questo esercizio fa parte del corso
Efficient AI Model Training with PyTorch
Istruzioni dell'esercizio
- Inizializza i parametri del modello con l'AutoModel appropriato per caricare il modello
bert-base-uncased. - Stampa la configurazione del modello.
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
from transformers import AutoModelForSequenceClassification
# Load a pre-trained bert-base-uncased model
model = ____.____("bert-base-uncased")
# Print the model's configuration
print(model.____)