Styra kundtjänstsvar
Du arbetar på ett e-handelsföretag och integrerar Llama i en kundtjänstassistent. Assistenten svarar på vanliga frågor, men du har märkt att svaren är alltför repetitiva.
Du behöver justera avkodningsparametrarna för att uppmuntra mer varierad formulering och samtidigt hålla svaren informativa.
Modellen är redan instantierad med llama_cpp och sparad i llm.
Den här övningen är en del av kursen
Arbeta med Llama 3
Övningsinstruktioner
- Ange parametern
temperatureså att svaren blir mindre repetitiva och mer dynamiska.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])