IniziaInizia gratis

Guidare le risposte dell'assistenza clienti

Lavori per un'azienda di e-commerce e stai integrando Llama in un assistente per l'assistenza clienti. L'assistente risponde alle domande frequenti, ma hai notato che le risposte sono troppo ripetitive.

Devi modificare i parametri di decodifica per favorire una formulazione più varia mantenendo le risposte informative.

Il modello è già istanziato con un modello usando llama_cpp ed è salvato in llm.

Questo esercizio fa parte del corso

Lavorare con Llama 3

Visualizza il corso

Istruzioni dell'esercizio

  • Imposta il parametro temperature in modo che le risposte siano meno ripetitive e più dinamiche.

Esercizio pratico interattivo

Prova a risolvere questo esercizio completando il codice di esempio.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Modifica ed esegui il codice