事前学習済みモデルの読み込みと確認
幅広いトピックで人間らしい対話ができる会話型 AI アシスタントを構築しましょう。ここでは、大量のテキストデータで事前学習された強力な BERT モデルを活用します。
設定情報を出力して、model_type: bert、num_attention_heads: 12、num_hidden_layers: 12 といったパラメータを持つ会話型 AI モデルが正しく読み込まれているか確認しましょう。
この演習はコースの一部です
PyTorch による効率的な AI モデルトレーニング
演習の手順
- 適切な AutoModel クラスを使って
bert-base-uncasedモデルのパラメータを初期化します。 - モデルの設定情報を出力します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
from transformers import AutoModelForSequenceClassification
# Load a pre-trained bert-base-uncased model
model = ____.____("bert-base-uncased")
# Print the model's configuration
print(model.____)