Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

Listing TorchTune recipes

Running a TorchTune task

Preprocessing data for fine-tuning

Filtering datasets for evaluation

Creating training samples

Saving preprocessed datasets

Fine-tuning with TorchTune

Defining custom recipes

Saving custom recipes

Running custom fine-tuning

Preparing for Llama fine-tuning

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Hugging Face ile model ince ayarı

Llama eğitim argümanlarını ayarlama

Müşteri hizmetleri S&C için Llama'ı ince ayarlama

ROUGE kullanarak üretilen metni değerlendir

LoRA ile verimli ince ayar

LoRA adapter'larını kullanma

Müşteri hizmetleri için Llama'yı LoRA ile ince ayarlama

Kantizasyon ile modelleri küçültme

8 bit modelleri yükleme

Kuantize modellerde çıkarımı hızlandırma

Tebrikler!

Fine-tuning with SFTTrainer on Hugging Face

Llama açık kaynak LLM’ini özel uygulamalar için performansını optimize edecek şekilde ince ayarla. TorchTune’un tarif tabanlı sistemini ve Hugging Face’in SFTTrainer aracını kullanarak fine-tuning döngülerini nasıl çalıştıracağını ve modellerini özel veri kümeleriyle nasıl hazırlayacağını öğren. Son olarak, LoRA gibi parametre-verimli tekniklerle denemeler yap ve model bellek kullanımını azaltmak, görevlerini daha verimli çalıştırmak için quantization uygula.

<h2>Llama modelinin ince ayarı</h2> Bu kurs, Llama modellerini hazırlamak ve bunlarla çalışmak için kapsamlı bir kılavuz sunar. Uygulamalı örnekler ve pratik alıştırmalarla, çeşitli Llama ince ayar görevlerini nasıl yapılandıracağınızı öğreneceksiniz. <h2>İnce ayar için veri kümelerini hazırlayın</h2> Hugging Face Datasets kütüphanesini kullanarak veri kümelerini yükleme, bölme ve kaydetme gibi veri kümesi hazırlama tekniklerini keşfetmeye başlayın ve Llama projeleriniz için yüksek kaliteli veriler elde edin. <h2>İnce ayar çerçeveleriyle çalışın</h2> TorchTune ve Hugging Face’in SFTTrainer gibi son teknoloji kütüphaneleri kullanarak iş akışlarını ince ayarlamayı keşfedin. İnce ayar tariflerini yapılandırmayı, eğitim argümanlarını ayarlamayı ve kaynak kullanımını optimize etmek için BitsAndBytes kullanarak LoRA (Düşük Sıralı Uyarlama) ve niceleme gibi verimli teknikleri kullanmayı öğreneceksiniz. Kurs boyunca öğrendiğiniz teknikleri birleştirerek, Llama modellerini projelerinizin ihtiyaçlarına uygun şekilde verimli bir şekilde özelleştirebileceksiniz.

Working with Llama 3

TorchTune ile Llama'yı özelleştirin, verimli ince ayar için kuantizasyon gibi teknikleri öğrenin.

Llama 3 ile İnce Ayar (Fine-Tuning)

TorchTune kullanarak Llama'yı özel görevler için ince ayar yapın ve niceleme gibi verimli ince ayar tekniklerini öğrenin.

Lama Temelleri

Kuantize modellerde çıkarımı hızlandırma

Llama 3 ile İnce Ayar (Fine-Tuning)

Egzersiz talimatları

Uygulamalı interaktif egzersiz