CommencezCommencez gratuitement

Orienter les réponses du soutien à la clientèle

Vous travaillez pour une entreprise de commerce en ligne et vous intégrez Llama à un assistant de soutien à la clientèle. L'assistant répond aux questions fréquentes, mais vous avez remarqué que les réponses sont trop répétitives.

Vous devez modifier les paramètres de décodage pour favoriser un libellé plus varié tout en gardant des réponses informatives.

Le modèle est déjà instancié avec un modèle utilisant llama_cpp et est stocké dans llm.

Cette activité fait partie du cours

Travailler avec Llama 3

Voir le cours

Instructions de l’exercice

  • Réglez le paramètre temperature afin que les réponses soient moins répétitives et plus dynamiques.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Modifier et exécuter le code