Générer du texte
Les LLMs ont de nombreuses capacités, et la génération de texte est l'une des plus populaires.
Vous devez générer une réponse à un avis client stocké dans text. Il s'agit du même avis concernant le Riverview Hotel que vous avez vu plus tôt.
Le module pipeline a été chargé pour vous.
Cette activité fait partie du cours
Introduction aux LLM avec Python
Instructions de l’exercice
- Instanciez le pipeline
generatoren indiquant la tâche appropriée pour générer du texte. - Complétez
prompten incluanttextetresponsedans la f-string. - Complétez le pipeline du modèle en spécifiant une longueur maximale de 150 jetons et en réglant
pad_token_idsur le jeton de fin de séquence.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])