1. Nauka
  2. /
  3. Kursy
  4. /
  5. Fine-Tuning z Llama 3

Connected

ćwiczenie

Konfigurowanie argumentów trenowania modelu Llama

Twoim zadaniem jest dostrojenie modelu Llama używanego w chatbocie obsługi klienta. W tym celu skorzystasz z danych przeznaczonych do odpowiadania na pytania. Aby uzyskać jak najlepsze wyniki, twój zespół dostroić model Llama na zbiorze danych bitext.

Chcesz przeprowadzić próbne uruchomienie pętli treningowej, aby sprawdzić, czy skrypt działa poprawnie. Zacznij od ustawienia małego współczynnika uczenia i ogranicz trenowanie do kilku kroków w argumentach treningowych.

Instrukcje

100 XP
  • Zaimportuj i utwórz instancję klasy pomocniczej służącej do przechowywania argumentów treningowych.
  • Ustaw argument treningowy dla współczynnika uczenia na wartość 2e-3.