Ghidarea răspunsurilor pentru asistența clienților
Lucrezi pentru o companie de e-commerce și integrezi Llama într-un asistent de asistență pentru clienți. Asistentul răspunde la întrebări frecvente, însă ai observat că răspunsurile sunt prea repetitive.
Trebuie să modifici parametrii de decodare pentru a încuraja o formulare mai variată, păstrând în același timp răspunsurile informative.
Modelul este deja instanțiat cu ajutorul llama_cpp și este stocat în llm.
Acest exercițiu face parte din cursul
Lucrul cu Llama 3
Instrucțiuni pentru exercițiu
- Setează parametrul
temperatureastfel încât răspunsurile să fie mai puțin repetitive și mai dinamice.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])