1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Úvod do LLMs v Pythonu
Connected

cvičení

Vyhodnocení perplexity

Vyzkoušej si generování textu a vyhodnocení skóre perplexity.

Máš k dispozici proměnnou input_text, která obsahuje začátek věty: "Current trends show that by 2030 ".

Pomocí LLM doplň zbytek věty.

Model AutoModelForCausalLM a jeho tokenizer jsou již načteny jako proměnné model a tokenizer.

Pokyny

100 XP
  • Zakóduj input_text a předej ho připravenému modelu pro generování textu.
  • Načti a vypočítej skóre mean_perplexity na vygenerovaném textu.