Kom igångKom igång gratis

Styra kundtjänstsvar

Du arbetar på ett e-handelsföretag och integrerar Llama i en kundtjänstassistent. Assistenten svarar på vanliga frågor, men du har märkt att svaren är alltför repetitiva.

Du behöver justera avkodningsparametrarna för att uppmuntra mer varierad formulering och samtidigt hålla svaren informativa.

Modellen är redan instantierad med llama_cpp och sparad i llm.

Den här övningen är en del av kursen

Arbeta med Llama 3

Visa kurs

Övningsinstruktioner

  • Ange parametern temperature så att svaren blir mindre repetitiva och mer dynamiska.

Interaktiv övning med praktiskt arbete

Testa den här övningen genom att slutföra den här exempelkoden.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Redigera och kör kod