1. Nauka
    2. /
  2. Kursy
    3. /
  3. Fine-Tuning z Llama 3
Connected

ćwiczenie

Korzystanie z adapterów LoRA

Pracujesz w startupie tworzącym chatboty do obsługi klienta, które automatycznie odpowiadają na proste pytania użytkowników.

Twoim zadaniem jest dostrojenie modelu językowego Maykeye/TinyLLama-v0 do odpowiadania na pytania z zakresu obsługi klienta przy użyciu zbioru danych bitext. Model ten zostanie wykorzystany w chatbocie dostarczanym przez twój zespół. Skrypt treningowy jest już prawie gotowy, jednak chcesz zintegrować z nim LoRA – jest to bardziej wydajne podejście, które pozwoli skrócić czas działania potoku treningowego podczas wdrożeń.

Model, tokenizer, zbiór danych oraz argumenty treningowe zostały już wczytane do zmiennych model, tokenizer, dataset i training_arguments.

Instrukcje

100 XP
  • Zaimportuj konfigurację LoRA z odpowiedniej biblioteki.
  • Utwórz instancję parametrów konfiguracji LoRA z domyślnymi wartościami i przypisz ją do lora_config.
  • Zintegruj parametry LoRA z SFTTrainer.