Prozkoumej možnosti fine-tuningu modelů Llama 3 a ponořte se do TorchTune – knihovny navržené tak, aby fine-tuning co nejvíce zjednodušila. Tato kapitola tě provede přípravou dat, systémem receptů v TorchTune a efektivní konfigurací úloh, a připraví tě na spuštění prvního fine-tuningového úkolu.

Knihovny pro fine-tuning modelu Llama

Výpis receptů TorchTune

Spuštění úlohy v TorchTune

Příprava dat pro fine-tuning

Filtrování datasetů pro vyhodnocení

Vytváření trénovacích vzorků

Ukládání předzpracovaných datasetů

Fine-tuning s TorchTune

Definování vlastních receptů

Ukládání vlastních receptur

Spuštění vlastního fine-tuningu

Příprava na fine-tuning Llamy

Zjisti, jak může fine-tuning výrazně zlepšit výkon menších modelů pro konkrétní úlohy. Začneš s fine-tuningem menších modelů Llama a rozšíříš jejich schopnosti pro specifické úlohy. Poté se seznámíš s technikami efektivního ladění parametrů, jako je LoRA, a prozkoumáš kvantizaci pro načítání a použití i větších modelů.

Doladění modelu pomocí Hugging Face

Nastavení tréninkových argumentů pro Llamu

Fine-tuning Llamy pro zákaznickou podporu

Vyhodnocení generovaného textu pomocí ROUGE

Efektivní fine-tuning s LoRA

Použití LoRA adapterů

Fine-tuning Llamy pomocí LoRA pro zákaznický servis

Zmenšování modelů pomocí kvantizace

Načítání modelů v 8bitech

Zrychlení inference v kvantizovaných modelech

Gratulujeme!

Fine-tuning pomocí SFTTrainer na Hugging Face

Dolaď open-source LLM Llama pro specializované aplikace. Naučíš se používat systém receptů v TorchTune a SFTTrainer od Hugging Face ke spouštění fine-tuningových smyček a k přípravě modelů s vlastními datasety. Pak si vyzkoušíš techniky efektivního ladění parametrů, jako je LoRA, a naučíš se používat kvantizaci ke snížení paměťové náročnosti modelu.

<h2>Doladění modelu Llama</h2> Tento kurz poskytuje komplexního průvodce přípravou a prací s modely Llama. Prostřednictvím praktických příkladů a cvičení se naučíte, jak nastavit různé úlohy dolaďování modelu Llama. <h2>Připravte datové sady pro fine-tuning</h2> Začněte prozkoumáním technik přípravy datových sad, včetně načítání, rozdělování a ukládání datových sad pomocí knihovny Hugging Face Datasets, abyste zajistili vysoce kvalitní data pro své projekty s Llamou. <h2>Pracujte s frameworky pro fine-tuning</h2> Prozkoumejte workflow fine-tuningu pomocí špičkových knihoven, jako jsou TorchTune a SFTTrainer od Hugging Face. Naučíte se, jak konfigurovat recepty pro fine-tuning, nastavit trénovací argumenty a využívat efektivní techniky, jako jsou LoRA (Low-Rank Adaptation) a kvantizace pomocí BitsAndBytes, abyste optimalizovali využití zdrojů. Kombinací technik naučených v průběhu kurzu budete schopni efektivně přizpůsobit modely Llama potřebám vašich projektů.

Working with Llama 3

Vylaďte Llamu pro vlastní úkoly pomocí TorchTune a naučte se efektivní techniky, jako je kvantizace.

Fine-Tuning s Llama 3

Doladění Llama pro vlastní úlohy pomocí TorchTune a nauč se techniky efektivního doladění, jako je kvantizace.

Základy Llamy

Curriculum Manager, DataCamp

Zmenšení modelů pomocí kvantizace

Co je kvantizace?

Typy kvantizace

Konfigurace kvantizace pomocí bitsandbytes

Načtení modelu s kvantizací

Použití kvantizovaného modelu

Doladění kvantizovaného modelu

Pojďme si procvičit!

Fine-tuning pomocí SFTTrainer na Hugging Face - Zmenšování modelů pomocí kvantizace

Zmenšování modelů pomocí kvantizace

Create Your Free Account