Začněte nyníZačněte zdarma

Generování textu

LLM mají mnoho schopností a generování textu patří k těm nejpopulárnějším.

Tvým úkolem je vygenerovat odpověď na recenzi zákazníka uloženou v proměnné text; obsahuje stejnou recenzi hotelu Riverview Hotel, kterou jsi už viděl/a dříve.

Modul pipeline je už načtený.

Toto cvičení je součástí kurzu

Úvod do LLMs v Pythonu

Zobrazit kurz

Pokyny k cvičení

  • Vytvoř instanci pipeline generator a zadej odpovídající typ úlohy pro generování textu.
  • Doplň prompt tak, aby f-string obsahoval text i response.
  • Dokonči pipeline modelu – nastav maximální délku na 150 tokenů a pad_token_id na token konce sekvence.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Upravit a spustit kód