ÎncepețiÎncepe gratuit

Ghidarea răspunsurilor pentru asistența clienților

Lucrezi pentru o companie de e-commerce și integrezi Llama într-un asistent de asistență pentru clienți. Asistentul răspunde la întrebări frecvente, însă ai observat că răspunsurile sunt prea repetitive.

Trebuie să modifici parametrii de decodare pentru a încuraja o formulare mai variată, păstrând în același timp răspunsurile informative.

Modelul este deja instanțiat cu ajutorul llama_cpp și este stocat în llm.

Acest exercițiu face parte din cursul

Lucrul cu Llama 3

Vezi cursul

Instrucțiuni pentru exercițiu

  • Setează parametrul temperature astfel încât răspunsurile să fie mai puțin repetitive și mai dinamice.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Editează și rulează codul