Generování textu
LLM mají mnoho schopností a generování textu patří k těm nejpopulárnějším.
Tvým úkolem je vygenerovat odpověď na recenzi zákazníka uloženou v proměnné text; obsahuje stejnou recenzi hotelu Riverview Hotel, kterou jsi už viděl/a dříve.
Modul pipeline je už načtený.
Toto cvičení je součástí kurzu
Úvod do LLMs v Pythonu
Pokyny k cvičení
- Vytvoř instanci pipeline
generatora zadej odpovídající typ úlohy pro generování textu. - Doplň
prompttak, aby f-string obsahovaltextiresponse. - Dokonči pipeline modelu – nastav maximální délku na 150 tokenů a
pad_token_idna token konce sekvence.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])