Kom igångKom igång gratis

Generera text

LLM:er har många förmågor – och textgenerering är en av de mest populära.

Din uppgift är att generera ett svar på en kundrecension som finns i text. Den innehåller samma kundrecension för Riverview Hotel som du sett tidigare.

Modulen pipeline har redan laddats åt dig.

Den här övningen är en del av kursen

Introduktion till LLM:er i Python

Visa kurs

Övningsinstruktioner

  • Skapa en generator-pipeline och ange en lämplig uppgift för textgenerering.
  • Slutför prompt genom att inkludera text och response i f-strängen.
  • Slutför modellpipelinen genom att ange en maximal längd på 150 tokens och sätta pad_token_id till slut-på-sekvens-token.

Interaktiv övning med praktiskt arbete

Testa den här övningen genom att slutföra den här exempelkoden.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Redigera och kör kod