Poznaj możliwości dostrajania modeli Llama 3 i zapoznaj się z biblioteką TorchTune, stworzoną z myślą o uproszczeniu tego procesu. Ten rozdział przeprowadzi cię przez przygotowanie danych, system receptur TorchTune oraz efektywną konfigurację zadań – wszystko, czego potrzebujesz, by uruchomić swoje pierwsze zadanie dostrajania.

Biblioteki do fine-tuningu modelu Llama

Wyświetlanie przepisów TorchTune

Uruchamianie zadania TorchTune

Przygotowanie danych do dostrajania modelu

Filtrowanie zbiorów danych do ewaluacji

Tworzenie próbek treningowych

Zapisywanie przetworzonych zbiorów danych

Fine-tuning z TorchTune

Definiowanie własnych receptur

Zapisywanie niestandardowych przepisów

Uruchamianie niestandardowego dostrajania

Przygotowanie do dostrajania modelu Llama

Dowiedz się, jak dostrajanie może znacząco poprawić wydajność mniejszych modeli w konkretnych zadaniach. Zacznij od dostrajania mniejszych modeli Llama, aby wzmocnić ich możliwości w wybranych zastosowaniach. Następnie poznaj techniki efektywnego dostrajania parametrów, takie jak LoRA, i odkryj, jak kwantyzacja umożliwia wczytywanie i używanie jeszcze większych modeli.

Dostrajanie modelu z użyciem Hugging Face

Konfigurowanie argumentów trenowania modelu Llama

Dostrajanie modelu Llama do obsługi klienta – pytania i odpowiedzi

Ocena wygenerowanego tekstu przy użyciu ROUGE

Wydajne dostrajanie z LoRA

Korzystanie z adapterów LoRA

Dostrajanie Llamy metodą LoRA na potrzeby obsługi klienta

Zmniejszanie modeli za pomocą kwantyzacji

Ładowanie modeli 8-bitowych

Przyspieszanie wnioskowania w skwantyzowanych modelach

Gratulacje!

Dostrajanie z użyciem SFTTrainer na Hugging Face

Naucz się dostrajać otwarty model językowy Llama, aby zoptymalizować jego działanie w wyspecjalizowanych zastosowaniach. Dowiedz się, jak korzystać z systemu receptur TorchTune oraz SFTTrainer z Hugging Face, aby uruchamiać pętle dostrajania i przygotowywać modele na własnych zbiorach danych. Na koniec wypróbuj techniki efektywnego dostrajania parametrów, takie jak LoRA, oraz zastosuj kwantyzację, aby zmniejszyć zużycie pamięci przez model i sprawniej wykonywać zadania.

<h2>Dostrajanie modelu Llama</h2> Ten kurs stanowi kompleksowy przewodnik po przygotowywaniu i pracy z modelami Llama. Dzięki praktycznym przykładom i ćwiczeniom nauczysz się konfigurować różne zadania dostrajania modeli Llama. <h2>Przygotuj zbiory danych do fine-tuningu</h2> Zacznij od poznania technik przygotowywania zbiorów danych, w tym wczytywania, dzielenia i zapisywania danych za pomocą biblioteki Hugging Face Datasets, aby zapewnić wysoką jakość danych dla swoich projektów Llama. <h2>Pracuj z frameworkami do fine-tuningu</h2> Poznaj procesy fine-tuningu z wykorzystaniem nowoczesnych bibliotek, takich jak TorchTune i SFTTrainer od Hugging Face. Nauczysz się, jak konfigurować przepisy fine-tuningu, ustawiać argumenty treningowe oraz wykorzystywać wydajne techniki, takie jak LoRA (Low-Rank Adaptation) i kwantyzacja z użyciem BitsAndBytes, aby zoptymalizować wykorzystanie zasobów. Łącząc techniki poznane w trakcie kursu, będziesz w stanie dostosować modele Llama do potrzeb swoich projektów w efektywny sposób.

Working with Llama 3

Dostosuj Llama do zadań za pomocą TorchTune i poznaj techniki efektywnego dostrajania jak kwantyzacja.

Fine-Tuning z Llama 3

Dostosuj Llama do własnych zadań za pomocą TorchTune i poznaj techniki efektywnego fine-tuningu, takie jak kwantyzacja.

Podstawy Llamy

Przyspieszanie wnioskowania w skwantyzowanych modelach

Fine-Tuning z Llama 3

Instrukcje do ćwiczenia

Interaktywne ćwiczenie praktyczne