Загрузка и изучение предобученных моделей
Вы создаёте разговорного ИИ-ассистента, способного вести диалог на самые разные темы. В основе проекта — мощная модель BERT, предобученная на большом корпусе текстов.
Выведите конфигурацию модели, чтобы убедиться, что загружена правильная модель с нужными параметрами: model_type: bert, num_attention_heads: 12 и num_hidden_layers: 12.
Это упражнение является частью курса
Эффективное обучение моделей ИИ с PyTorch
Инструкции к упражнению
- Инициализируйте параметры модели с помощью подходящего класса AutoModel, чтобы загрузить модель
bert-base-uncased. - Выведите конфигурацию модели.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
from transformers import AutoModelForSequenceClassification
# Load a pre-trained bert-base-uncased model
model = ____.____("bert-base-uncased")
# Print the model's configuration
print(model.____)