Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

Pustaka penyetelan-halus Llama

Mendaftar resep TorchTune

Menjalankan tugas TorchTune

Prapemrosesan data untuk fine-tuning

Memfilter himpunan data untuk evaluasi

Membuat sampel pelatihan

Menyimpan himpunan data yang telah dipraproses

Fine-tuning dengan TorchTune

Mendefinisikan resep kustom

Menyimpan resep kustom

Menjalankan fine-tuning kustom

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model fine-tuning with Hugging Face

Setting up Llama training arguments

Fine-tuning Llama for customer service QA

Evaluate generated text using ROUGE

Efficient fine-tuning with LoRA

Using LoRA adapters

LoRA fine-tuning Llama for customer service

Making models smaller with quantization

Loading 8-bit models

Speeding up inference in quantized models

Congratulations!

Fine-tuning with SFTTrainer on Hugging Face

Fine-tune LLM open-source Llama untuk mengoptimalkan kinerjanya pada aplikasi khusus. Pelajari cara menggunakan sistem berbasis resep TorchTune dan SFTTrainer dari Hugging Face untuk menjalankan loop fine-tuning, menyiapkan model Anda dengan himpunan data kustom. Terakhir, coba teknik parameter-efficient seperti LoRA dan terapkan kuantisasi untuk mengurangi penggunaan memori model serta menjalankan tugas Anda dengan lebih efisien.

<h2>Menyesuaikan model Llama</h2> Kursus ini memberikan panduan lengkap tentang cara menyiapkan dan bekerja dengan model Llama. Melalui contoh-contoh praktis dan latihan-latihan yang aplikatif, Anda akan belajar cara mengonfigurasi berbagai tugas penyempurnaan model Llama. <h2>Siapkan dataset untuk fine-tuning</h2> Mulailah dengan mempelajari teknik persiapan dataset, termasuk memuat, membagi, dan menyimpan dataset menggunakan perpustakaan Hugging Face Datasets, untuk memastikan data berkualitas tinggi untuk proyek Llama Anda. <h2>Bekerja dengan kerangka kerja penyempurnaan</h2> Jelajahi proses penyempurnaan model menggunakan perpustakaan canggih seperti TorchTune dan SFTTrainer dari Hugging Face. Anda akan belajar cara mengonfigurasi resep penyesuaian halus, menyiapkan argumen pelatihan, dan memanfaatkan teknik efisien seperti LoRA (Low-Rank Adaptation) dan kuantisasi menggunakan BitsAndBytes untuk mengoptimalkan penggunaan sumber daya. Dengan menggabungkan teknik-teknik yang dipelajari sepanjang kursus, Anda akan dapat menyesuaikan model Llama sesuai dengan kebutuhan proyek Anda secara efisien.

Working with Llama 3

Sesuaikan Llama untuk tugas khusus dengan TorchTune, dan pelajari teknik penyetelan efisien seperti kuantisasi.

Fine-Tuning dengan Llama 3

Sesuaikan Llama untuk tugas khusus menggunakan TorchTune, dan pelajari teknik-teknik untuk penyempurnaan yang efisien seperti kuantisasi.

Llama Fundamentals

Menjalankan tugas TorchTune

Fine-Tuning dengan Llama 3

Latihan interaktif praktis