Guiar respuestas de atención al cliente
Trabajas en una empresa de comercio electrónico e integras Llama en un asistente de soporte al cliente. El asistente responde preguntas frecuentes, pero has notado que las respuestas son demasiado repetitivas.
Necesitas modificar los parámetros de decodificación para fomentar una redacción más variada manteniendo respuestas informativas.
El modelo ya está instanciado con llama_cpp y se guarda en llm.
Este ejercicio forma parte del curso
Trabajar con Llama 3
Instrucciones del ejercicio
- Configura el parámetro
temperaturepara que las respuestas sean menos repetitivas y más dinámicas.
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])