引导客服支持回复
您在一家电商公司工作，正在将 Llama 集成到客服助理中。该助理会回答常见问题，但您注意到回复过于重复。
您需要调整解码参数，以在保持信息量的同时，鼓励更丰富的表述。
模型已使用 llama_cpp 实例化，并存储在 llm 中。
本练习是课程的一部分
使用 Llama 3
练习说明
- 将
temperature参数设置为一个能降低重复度、提升动态性的数值。
交互式实操练习
通过完成这段示例代码来试试这个练习。
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])