Řízení odpovědí zákaznické podpory
Pracuješ pro e-commerce společnost a integruješ Llamu do asistenta zákaznické podpory. Asistent odpovídá na často kladené otázky, ale všiml/a sis, že odpovědi jsou příliš repetitivní.
Potřebuješ upravit parametry dekódování tak, aby asistent používal různorodější formulace a zároveň zůstával informativní.
Model je už inicializovaný pomocí llama_cpp a uložený v proměnné llm.
Toto cvičení je součástí kurzu
Práce s Llama 3
Pokyny k cvičení
- Nastav parametr
temperaturetak, aby odpovědi byly méně repetitivní a dynamičtější.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])