Začněte nyníZačněte zdarma

Řízení odpovědí zákaznické podpory

Pracuješ pro e-commerce společnost a integruješ Llamu do asistenta zákaznické podpory. Asistent odpovídá na často kladené otázky, ale všiml/a sis, že odpovědi jsou příliš repetitivní.

Potřebuješ upravit parametry dekódování tak, aby asistent používal různorodější formulace a zároveň zůstával informativní.

Model je už inicializovaný pomocí llama_cpp a uložený v proměnné llm.

Toto cvičení je součástí kurzu

Práce s Llama 3

Zobrazit kurz

Pokyny k cvičení

  • Nastav parametr temperature tak, aby odpovědi byly méně repetitivní a dynamičtější.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Upravit a spustit kód