Guidare le risposte dell'assistenza clienti
Lavori per un'azienda di e-commerce e stai integrando Llama in un assistente per l'assistenza clienti. L'assistente risponde alle domande frequenti, ma hai notato che le risposte sono troppo ripetitive.
Devi modificare i parametri di decodifica per favorire una formulazione più varia mantenendo le risposte informative.
Il modello è già istanziato con un modello usando llama_cpp ed è salvato in llm.
Questo esercizio fa parte del corso
Lavorare con Llama 3
Istruzioni dell'esercizio
- Imposta il parametro
temperaturein modo che le risposte siano meno ripetitive e più dinamiche.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])