ファインチューニング済みモデルを使う
モデルのファインチューニングが完了しました。では、新しいデータに対して分類を生成してみましょう。ファインチューニング済みモデルが、新しいやり取りをチャーンの低リスクか高リスクかでどれくらいうまくタグ付けできるか確認します。
ファインチューニング済みの model と tokenizer は読み込まれています。
この演習はコースの一部です
Pythonで学ぶ LLM 入門
演習の手順
- 新しいデータをトークナイズします。
- トークナイズした入力を、勾配を無効にしてファインチューニング済みモデルに渡します。
- 新しい予測を取り出します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
input_text = ["I'd just like to say, I love the product! Thank you!"]
# Tokenize the new data
inputs = ____(____, return_tensors="pt", padding=True, truncation=True)
# Pass the tokenized inputs through the model
with ____:
outputs = ____
# Extract the new predictions
predicted_labels = ____.____(outputs.logits, dim=1).tolist()
label_map = {0: "Low risk", 1: "High risk"}
for i, predicted_label in enumerate(predicted_labels):
churn_label = label_map[predicted_label]
print(f"\n Input Text {i + 1}: {input_text[i]}")
print(f"Predicted Label: {predicted_label}")