ÎncepețiÎncepe gratuit

Generarea textului

LLM-urile au multe capabilități, iar generarea de text este una dintre cele mai populare.

Trebuie să generezi un răspuns la o recenzie a unui client, stocată în text; aceasta conține aceeași recenzie pentru Riverview Hotel pe care ai văzut-o anterior.

Modulul pipeline a fost deja încărcat pentru tine.

Acest exercițiu face parte din cursul

Introducere în LLM-uri cu Python

Vezi cursul

Instrucțiuni pentru exercițiu

  • Instanțiază pipeline-ul generator specificând sarcina potrivită pentru generarea de text.
  • Completează prompt-ul incluzând text și response în f-string.
  • Completează pipeline-ul modelului specificând o lungime maximă de 150 de tokeni și setând pad_token_id la tokenul de sfârșit de secvență.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Editează și rulează codul