Geração de texto
Os LLMs têm muitos recursos, sendo a geração de texto um dos mais populares.
Você precisa gerar uma resposta a uma avaliação de cliente encontrada em text; ela contém a mesma avaliação de cliente do Riverview Hotel que você já viu antes.
O módulo pipeline foi carregado para você.
Este exercício faz parte do curso
Introdução aos LLMs em Python
Instruções do exercício
- Instanciar o pipeline
generatorespecificando uma tarefa apropriada para gerar texto. - Complete o
promptincluindo otexte oresponsena string f. - Complete o pipeline do modelo especificando um comprimento máximo de 150 tokens e definindo o
pad_token_idcomo o token de fim de sequência.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])