ファインチューニング済みモデルの使用
モデルのファインチューニングが完了しました。次は、新しいデータに適用して分類を生成できるようになりました。ファインチューニング済みモデルが、新しいデータに対して離脱リスクが低いか高いかをどれだけうまく分類できるか見てみましょう。
ファインチューニング済みの model と tokenizer はあらかじめ読み込まれています。
この演習はコースの一部です
Python で学ぶ LLM の入門
演習の手順
- 新しいデータをトークン化します。
- トークン化した入力をファインチューニング済みモデルに渡し、勾配計算を無効にします。
- 新しい予測結果を抽出します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
input_text = ["I'd just like to say, I love the product! Thank you!"]
# Tokenize the new data
inputs = ____(____, return_tensors="pt", padding=True, truncation=True)
# Pass the tokenized inputs through the model
with ____:
outputs = ____
# Extract the new predictions
predicted_labels = ____.____(outputs.logits, dim=1).tolist()
label_map = {0: "Low risk", 1: "High risk"}
for i, predicted_label in enumerate(predicted_labels):
churn_label = label_map[predicted_label]
print(f"\n Input Text {i + 1}: {input_text[i]}")
print(f"Predicted Label: {predicted_label}")