Zacznij terazZacznij za darmo

Sterowanie odpowiedziami asystenta obsługi klienta

Pracujesz w firmie e-commerce i integrujesz Llamę z asystentem obsługi klienta. Asystent odpowiada na najczęściej zadawane pytania, ale zauważasz, że jego odpowiedzi są zbyt powtarzalne.

Musisz zmodyfikować parametry dekodowania, aby zachęcić model do bardziej zróżnicowanego doboru słów przy jednoczesnym zachowaniu treściwości odpowiedzi.

Model jest już zainicjalizowany przy użyciu llama_cpp i przechowywany w zmiennej llm.

To ćwiczenie jest częścią kursu

Praca z Llama 3

Zobacz kurs

Instrukcje do ćwiczenia

  • Ustaw parametr temperature tak, aby odpowiedzi były mniej powtarzalne i bardziej dynamiczne.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

output = llm(
		"Can I exchange an item I purchased?", 
  		# Set the temperature parameter to provide more varied responses
		temperature=____,
        max_tokens=15
) 

print(output['choices'][0]['text'])
Edytuj i uruchom kod