Generarea textului
LLM-urile au multe capabilități, iar generarea de text este una dintre cele mai populare.
Trebuie să generezi un răspuns la o recenzie a unui client, stocată în text; aceasta conține aceeași recenzie pentru Riverview Hotel pe care ai văzut-o anterior.
Modulul pipeline a fost deja încărcat pentru tine.
Acest exercițiu face parte din cursul
Introducere în LLM-uri cu Python
Instrucțiuni pentru exercițiu
- Instanțiază pipeline-ul
generatorspecificând sarcina potrivită pentru generarea de text. - Completează
prompt-ul incluzândtextșiresponseîn f-string. - Completează pipeline-ul modelului specificând o lungime maximă de 150 de tokeni și setând
pad_token_idla tokenul de sfârșit de secvență.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])