1. Nauka
    2. /
  2. Kursy
    3. /
  3. Fine-Tuning z Llama 3
Connected

ćwiczenie

Dostrajanie Llamy metodą LoRA na potrzeby obsługi klienta

Twoim zadaniem jest dostrojenie modelu językowego do odpowiadania na pytania z zakresu obsługi klienta. Modele Llama świetnie radzą sobie z odpowiadaniem na pytania i powinny dobrze sprawdzić się w tym zadaniu. Niestety nie masz wystarczających zasobów obliczeniowych, aby przeprowadzić standardowe dostrajanie – zamiast tego musisz skorzystać z techniki LoRA i zbioru danych bitext.

Chcesz wytrenować model Maykeye/TinyLLama-v0. Skrypt treningowy jest już prawie gotowy – masz dostęp do kodu treningowego, brakuje jedynie parametrów konfiguracji LoRA.

Odpowiedni model, tokenizer, zbiór danych i argumenty treningowe zostały już wczytane odpowiednio jako model, tokenizer, dataset i training_arguments.

Instrukcje

100 XP
  • Dodaj argument ustawiający rangę adapterów LoRA na 2.
  • Ustaw współczynnik skalowania tak, aby był dwukrotnie większy od rangi.
  • Ustaw typ zadania stosowany z modelami w stylu Llama w konfiguracji LoRA.