Generar texto
Los LLM tienen muchas capacidades, siendo la generación de texto una de las más populares.
Tienes que generar una respuesta a una reseña de un cliente encontrada en text
; contiene la misma reseña de cliente para el Hotel Riverview que has visto antes.
Se ha cargado para ti el módulo pipeline
.
Este ejercicio forma parte del curso
Introduction to LLMs in Python
Instrucciones de ejercicio
- Instala el canal
generator
especificando una tarea adecuada para generar el texto. - Completa el
prompt
incluyendo lostext
yresponse
en la cadena f. - Completa la cadena del modelo especificando una longitud máxima de 150 tokens y fijando el
pad_token_id
en el token de final de secuencia.
Ejercicio interactivo práctico
Pruebe este ejercicio completando este código de muestra.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])