Jelajahi opsi untuk melakukan fine-tuning pada model Llama 3 dan pelajari TorchTune, sebuah pustaka yang dibangun untuk menyederhanakan fine-tuning. Bab ini memandu Anda melalui penyiapan data, sistem berbasis resep TorchTune, dan konfigurasi tugas yang efisien, menyajikan langkah-langkah kunci untuk meluncurkan tugas fine-tuning pertama Anda.

Pustaka penyetelan-halus Llama

Mendaftar resep TorchTune

Menjalankan tugas TorchTune

Prapemrosesan data untuk fine-tuning

Memfilter himpunan data untuk evaluasi

Membuat sampel pelatihan

Menyimpan himpunan data yang telah dipraproses

Fine-tuning dengan TorchTune

Mendefinisikan resep kustom

Menyimpan resep kustom

Menjalankan fine-tuning kustom

Persiapan untuk fine-tuning Llama

Pelajari bagaimana fine-tuning dapat secara signifikan meningkatkan performa model yang lebih kecil untuk tugas-tugas spesifik. Mulailah dengan fine-tuning model Llama yang lebih kecil untuk meningkatkan kemampuan spesifik tugasnya. Selanjutnya, temukan teknik fine-tuning yang hemat parameter seperti LoRA, dan jelajahi kuantisasi untuk memuat serta menggunakan model yang lebih besar lagi.

Fine-tuning model dengan Hugging Face

Menyiapkan argumen pelatihan Llama

Fine-tuning Llama untuk QA layanan pelanggan

Evaluasi teks yang dihasilkan menggunakan ROUGE

Fine-tuning yang efisien dengan LoRA

Menggunakan adapter LoRA

Fine-tuning LoRA Llama untuk layanan pelanggan

Membuat model lebih kecil dengan kuantisasi

Memuat model 8-bit

Mempercepat inferensi pada model terkuantisasi

Selamat!

Fine-tuning dengan SFTTrainer di Hugging Face

Fine-tune LLM open-source Llama untuk mengoptimalkan kinerjanya pada aplikasi khusus. Pelajari cara menggunakan sistem berbasis resep TorchTune dan SFTTrainer dari Hugging Face untuk menjalankan loop fine-tuning, menyiapkan model Anda dengan himpunan data kustom. Terakhir, coba teknik parameter-efficient seperti LoRA dan terapkan kuantisasi untuk mengurangi penggunaan memori model serta menjalankan tugas Anda dengan lebih efisien.

<h2>Menyesuaikan model Llama</h2> Kursus ini memberikan panduan lengkap tentang cara menyiapkan dan bekerja dengan model Llama. Melalui contoh-contoh praktis dan latihan-latihan yang aplikatif, Anda akan belajar cara mengonfigurasi berbagai tugas penyempurnaan model Llama. <h2>Siapkan dataset untuk fine-tuning</h2> Mulailah dengan mempelajari teknik persiapan dataset, termasuk memuat, membagi, dan menyimpan dataset menggunakan perpustakaan Hugging Face Datasets, untuk memastikan data berkualitas tinggi untuk proyek Llama Anda. <h2>Bekerja dengan kerangka kerja penyempurnaan</h2> Jelajahi proses penyempurnaan model menggunakan perpustakaan canggih seperti TorchTune dan SFTTrainer dari Hugging Face. Anda akan belajar cara mengonfigurasi resep penyesuaian halus, menyiapkan argumen pelatihan, dan memanfaatkan teknik efisien seperti LoRA (Low-Rank Adaptation) dan kuantisasi menggunakan BitsAndBytes untuk mengoptimalkan penggunaan sumber daya. Dengan menggabungkan teknik-teknik yang dipelajari sepanjang kursus, Anda akan dapat menyesuaikan model Llama sesuai dengan kebutuhan proyek Anda secara efisien.

Working with Llama 3

Sesuaikan Llama untuk tugas khusus dengan TorchTune, dan pelajari teknik penyetelan efisien seperti kuantisasi.

Fine-Tuning dengan Llama 3

Sesuaikan Llama untuk tugas khusus menggunakan TorchTune, dan pelajari teknik-teknik untuk penyempurnaan yang efisien seperti kuantisasi.

Llama Fundamentals

Menjalankan fine-tuning kustom

Fine-Tuning dengan Llama 3

Latihan interaktif langsung