Använda den finjusterade modellen
Modellen har finjusterats. Nu är du redo att använda den på nya data och generera klassificeringar. Låt oss se hur bra din finjusterade modell är på att märka nya interaktioner som antingen låg eller hög risk för kundbortfall.
Din finjusterade model och tokenizer har redan laddats in åt dig.
Den här övningen är en del av kursen
Introduktion till LLM:er i Python
Övningsinstruktioner
- Tokenisera de nya data.
- Skicka de tokeniserade indata till den finjusterade modellen och inaktivera gradienter.
- Extrahera de nya förutsägelserna.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
input_text = ["I'd just like to say, I love the product! Thank you!"]
# Tokenize the new data
inputs = ____(____, return_tensors="pt", padding=True, truncation=True)
# Pass the tokenized inputs through the model
with ____:
outputs = ____
# Extract the new predictions
predicted_labels = ____.____(outputs.logits, dim=1).tolist()
label_map = {0: "Low risk", 1: "High risk"}
for i, predicted_label in enumerate(predicted_labels):
churn_label = label_map[predicted_label]
print(f"\n Input Text {i + 1}: {input_text[i]}")
print(f"Predicted Label: {predicted_label}")