Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

Listing TorchTune recipes

Running a TorchTune task

Preprocessing data for fine-tuning

Filtering datasets for evaluation

Creating training samples

Saving preprocessed datasets

Fine-tuning with TorchTune

Defining custom recipes

Saving custom recipes

Running custom fine-tuning

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Fine-tuning model dengan Hugging Face

Menyiapkan argumen pelatihan Llama

Fine-tuning Llama untuk QA layanan pelanggan

Evaluasi teks yang dihasilkan menggunakan ROUGE

Fine-tuning yang efisien dengan LoRA

Menggunakan adapter LoRA

Fine-tuning LoRA Llama untuk layanan pelanggan

Membuat model lebih kecil dengan kuantisasi

Memuat model 8-bit

Mempercepat inferensi pada model terkuantisasi

Selamat!

Fine-tuning with SFTTrainer on Hugging Face

Fine-tune LLM open-source Llama untuk mengoptimalkan kinerjanya pada aplikasi khusus. Pelajari cara menggunakan sistem berbasis resep TorchTune dan SFTTrainer dari Hugging Face untuk menjalankan loop fine-tuning, menyiapkan model Anda dengan himpunan data kustom. Terakhir, coba teknik parameter-efficient seperti LoRA dan terapkan kuantisasi untuk mengurangi penggunaan memori model serta menjalankan tugas Anda dengan lebih efisien.

<h2>Menyesuaikan model Llama</h2> Kursus ini memberikan panduan lengkap tentang cara menyiapkan dan bekerja dengan model Llama. Melalui contoh-contoh praktis dan latihan-latihan yang aplikatif, Anda akan belajar cara mengonfigurasi berbagai tugas penyempurnaan model Llama. <h2>Siapkan dataset untuk fine-tuning</h2> Mulailah dengan mempelajari teknik persiapan dataset, termasuk memuat, membagi, dan menyimpan dataset menggunakan perpustakaan Hugging Face Datasets, untuk memastikan data berkualitas tinggi untuk proyek Llama Anda. <h2>Bekerja dengan kerangka kerja penyempurnaan</h2> Jelajahi proses penyempurnaan model menggunakan perpustakaan canggih seperti TorchTune dan SFTTrainer dari Hugging Face. Anda akan belajar cara mengonfigurasi resep penyesuaian halus, menyiapkan argumen pelatihan, dan memanfaatkan teknik efisien seperti LoRA (Low-Rank Adaptation) dan kuantisasi menggunakan BitsAndBytes untuk mengoptimalkan penggunaan sumber daya. Dengan menggabungkan teknik-teknik yang dipelajari sepanjang kursus, Anda akan dapat menyesuaikan model Llama sesuai dengan kebutuhan proyek Anda secara efisien.

Working with Llama 3

Sesuaikan Llama untuk tugas khusus dengan TorchTune, dan pelajari teknik penyetelan efisien seperti kuantisasi.

Fine-Tuning dengan Llama 3

Sesuaikan Llama untuk tugas khusus menggunakan TorchTune, dan pelajari teknik-teknik untuk penyempurnaan yang efisien seperti kuantisasi.

Llama Fundamentals

Menyiapkan argumen pelatihan Llama

Fine-Tuning dengan Llama 3

Petunjuk latihan

Latihan interaktif praktis