Generera text
LLM:er har många förmågor – och textgenerering är en av de mest populära.
Din uppgift är att generera ett svar på en kundrecension som finns i text. Den innehåller samma kundrecension för Riverview Hotel som du sett tidigare.
Modulen pipeline har redan laddats åt dig.
Den här övningen är en del av kursen
Introduktion till LLM:er i Python
Övningsinstruktioner
- Skapa en
generator-pipeline och ange en lämplig uppgift för textgenerering. - Slutför
promptgenom att inkluderatextochresponsei f-strängen. - Slutför modellpipelinen genom att ange en maximal längd på 150 tokens och sätta
pad_token_idtill slut-på-sekvens-token.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])