1. Nauka
    2. /
  2. Kursy
    3. /
  3. Praca z Llama 3
Connected

ćwiczenie

Sterowanie odpowiedziami asystenta obsługi klienta

Pracujesz w firmie e-commerce i integrujesz Llamę z asystentem obsługi klienta. Asystent odpowiada na najczęściej zadawane pytania, ale zauważasz, że jego odpowiedzi są zbyt powtarzalne.

Musisz zmodyfikować parametry dekodowania, aby zachęcić model do bardziej zróżnicowanego doboru słów przy jednoczesnym zachowaniu treściwości odpowiedzi.

Model jest już zainicjalizowany przy użyciu llama_cpp i przechowywany w zmiennej llm.

Instrukcje

100 XP
  • Ustaw parametr temperature tak, aby odpowiedzi były mniej powtarzalne i bardziej dynamiczne.