Carregamento e inspeção de modelos pré-treinados
Você está criando um assistente de IA conversacional que pode se envolver em diálogos semelhantes aos humanos em uma ampla variedade de tópicos, aproveitando o poderoso modelo BERT que foi pré-treinado em um grande corpus de dados de texto.
Você imprimirá a configuração para verificar se carregou um modelo de IA de conversação com determinados parâmetros, como model_type: bert, num_attention_heads: 12, e num_hidden_layers: 12.
Este exercício faz parte do curso
Treinamento eficiente de modelos de IA com PyTorch
Instruções do exercício
- Inicialize os parâmetros do modelo com a classe AutoModel apropriada para carregar o modelo
bert-base-uncased. - Imprima a configuração do modelo.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
from transformers import AutoModelForSequenceClassification
# Load a pre-trained bert-base-uncased model
model = ____.____("bert-base-uncased")
# Print the model's configuration
print(model.____)