Zacznij terazZacznij za darmo

Ocena perpleksji

Sprawdź, jak generować tekst i oceniać wynik perpleksji.

Przygotowano dla ciebie zmienną input_text zawierającą początek zdania: "Current trends show that by 2030 ".

Użyj modelu LLM, aby wygenerować dalszą część zdania.

Model AutoModelForCausalLM wraz z tokenizerem zostały załadowane jako zmienne model i tokenizer.

To ćwiczenie jest częścią kursu

Wprowadzenie do LLM w Pythonie

Zobacz kurs

Instrukcje do ćwiczenia

  • Zakoduj input_text i przekaż go do dostarczonego modelu generowania tekstu.
  • Załaduj i oblicz wynik mean_perplexity na podstawie wygenerowanego tekstu.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Encode the input text, generate and decode it
input_text_ids = ____(input_text, return_tensors="pt")
output = ____(input_text_ids, max_length=20)
generated_text = ____(output[0], skip_special_tokens=True)

print("Generated Text: ", generated_text)

# Load and compute the perplexity score
perplexity = ____("perplexity", module_type="metric")
results = ____(model_id="gpt2", predictions=____)
print("Perplexity: ", results['mean_perplexity'])
Edytuj i uruchom kod