CommencezCommencez gratuitement

Générer du texte

Les LLMs ont de nombreuses capacités, et la génération de texte est l'une des plus populaires.

Vous devez générer une réponse à un avis client stocké dans text. Il s'agit du même avis concernant le Riverview Hotel que vous avez vu plus tôt.

Le module pipeline a été chargé pour vous.

Cette activité fait partie du cours

Introduction aux LLM avec Python

Voir le cours

Instructions de l’exercice

  • Instanciez le pipeline generator en indiquant la tâche appropriée pour générer du texte.
  • Complétez prompt en incluant text et response dans la f-string.
  • Complétez le pipeline du modèle en spécifiant une longueur maximale de 150 jetons et en réglant pad_token_id sur le jeton de fin de séquence.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Modifier et exécuter le code