CommencerCommencer gratuitement

Générer du texte

Les LLM ont de nombreuses capacités, la génération de textes étant l'une des plus populaires.

Vous devez générer une réponse à un avis de client trouvé sur text; il contient le même avis de client pour l' hôtel Riverview que vous avez déjà vu.

Le module pipeline a été chargé pour vous.

Cet exercice fait partie du cours

Introduction aux LLM en Python

Afficher le cours

Instructions

  • Installez le pipeline generator en spécifiant une tâche appropriée pour générer du texte.
  • Complétez le prompt en incluant les text et response dans la chaîne f.
  • Complétez le modèle de pipeline en spécifiant une longueur maximale de 150 tokens et en fixant le pad_token_id au token de fin de séquence.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Modifier et exécuter le code