Explorează opțiunile de fine-tuning pentru modelele Llama 3 și descoperă TorchTune, o bibliotecă creată pentru a simplifica acest proces. Capitolul te ghidează prin pregătirea datelor, sistemul bazat pe rețete al TorchTune și configurarea eficientă a sarcinilor, oferindu-ți pașii esențiali pentru a lansa prima ta sesiune de fine-tuning.

Bibliotecile pentru fine-tuning cu Llama

Listarea rețetelor TorchTune

Rularea unei sarcini TorchTune

Preprocesarea datelor pentru fine-tuning

Filtrarea seturilor de date pentru evaluare

Crearea eșantioanelor de antrenament

Salvarea seturilor de date preprocesate

Fine-tuning cu TorchTune

Definirea rețetelor personalizate

Salvarea rețetelor personalizate

Rularea unui fine-tuning personalizat

Pregătirea pentru fine-tuning cu Llama

Descoperă cum fine-tuning-ul poate îmbunătăți semnificativ performanța modelelor mai mici pentru sarcini specifice. Începe cu fine-tuning pe modele Llama mai mici pentru a le spori capacitățile specializate. Apoi, explorează tehnici eficiente de fine-tuning, precum LoRA, și cuantizarea pentru a încărca și utiliza modele și mai mari.

Ajustarea fină a modelelor cu Hugging Face

Configurarea argumentelor de antrenare pentru Llama

Fine-tuning Llama pentru serviciul clienți – întrebări și răspunsuri

Evaluarea textului generat folosind ROUGE

Ajustare eficientă cu LoRA

Utilizarea adapterelor LoRA

Fine-tuning Llama cu LoRA pentru serviciul clienți

Reducerea dimensiunii modelelor prin cuantizare

Încărcarea modelelor pe 8 biți

Accelerarea inferenței în modelele cuantizate

Felicitări!

Fine-Tuning cu SFTTrainer pe Hugging Face

Aplică fine-tuning pe modelul open-source Llama pentru a-i optimiza performanța în aplicații specializate. Învață să folosești sistemul bazat pe rețete al TorchTune și SFTTrainer de la Hugging Face pentru a rula bucle de fine-tuning și a pregăti modele cu seturi de date personalizate. Experimentează cu tehnici eficiente de parametrizare, precum LoRA, și aplică cuantizarea pentru a reduce consumul de memorie și a rula sarcinile mai eficient.

<h2>Ajustarea fină a modelului Llama</h2> Acest curs oferă un ghid complet pentru pregătirea și lucrul cu modelele Llama. Prin exemple practice și exerciții aplicate, vei învăța cum să configurezi diverse sarcini de fine-tuning pentru Llama. <h2>Pregătește seturi de date pentru fine-tuning</h2> Începe prin a explora tehnici de pregătire a seturilor de date, inclusiv încărcarea, împărțirea și salvarea seturilor de date folosind biblioteca Hugging Face Datasets, pentru a asigura date de înaltă calitate pentru proiectele tale Llama. <h2>Lucrează cu framework-uri de fine-tuning</h2> Explorează fluxurile de lucru de fine-tuning folosind biblioteci de ultimă generație precum TorchTune și SFTTrainer de la Hugging Face. Vei învăța cum să configurezi rețete de fine-tuning, să setezi argumentele de antrenare și să utilizezi tehnici eficiente precum LoRA (Low-Rank Adaptation) și cuantizarea folosind BitsAndBytes pentru a optimiza utilizarea resurselor. Combinând tehnicile învățate pe parcursul cursului, vei putea personaliza modelele Llama pentru a se potrivi nevoilor proiectelor tale într-un mod eficient.

Working with Llama 3

Perfecționează Llama pentru sarcini personalizate cu TorchTune și învață tehnici eficiente precum cuantizarea.

Fine-Tuning cu Llama 3

Ajustează fin Llama pentru sarcini personalizate cu TorchTune și învață tehnici de ajustare fină eficientă, precum cuantizarea.

Bazele Llama

Listarea rețetelor TorchTune

Fine-Tuning cu Llama 3

Exercițiu interactiv practic