Příprava na 8bitový trénink

Chtěl/a jsi spustit fine-tuning s RLHF, ale narážel/a jsi na chyby způsobené nedostatkem paměti. Jako řešení jsi zvolil/a přechod na 8bitovou přesnost, která umožňuje efektivnější fine-tuning – a to díky knihovně peft od Hugging Face.

Následující položky jsou již naimportované:

AutoModelForCausalLM z transformers
prepare_model_for_int8_training z peft
AutoModelForCausalLMWithValueHead z trl

Toto cvičení je součástí kurzu

Reinforcement Learning from Human Feedback (RLHF)

Pokyny k cvičení

Načti předtrénovaný model a nezapomeň přidat parametr pro 8bitovou přesnost.
Pomocí funkce prepare_model_for_int8_training připrav model na fine-tuning založený na LoRA.
Načti model s value head pro trénink PPO.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

model_name = "gpt2"  

# Load the model in 8-bit precision
pretrained_model = AutoModelForCausalLM.from_pretrained(
                                                       model_name, 
                                                       ____=True
                                                      )

# Prepare the model for fine-tuning
pretrained_model_8bit = ____(pretrained_model)

# Load the model with a value head
model = ____.from_pretrained(pretrained_model_8bit)

Upravit a spustit kód

Toto cvičení je součástí kurzu

Reinforcement Learning from Human Feedback (RLHF)

SkillTag.level.advancedSkillTag.label

4.8+

Začněte kurz zdarma

Tato kapitola tě seznámí se základy Reinforcement Learning with Human Feedback (RLHF) – techniky, která využívá lidský vstup k efektivnějšímu učení AI modelů. Začni s RLHF tím, že pochopíš, čím se liší od tradičního reinforcement learningu a proč může lidská zpětná vazba zlepšit výkon AI v různých oblastech.

Exercise 1: Úvod do RLHF Exercise 2: Generování textu s RLHF Exercise 3: Klasifikace generovaného textu pro RLHF Exercise 4: RL vs. RLHF Exercise 5: Prozkoumání předtrénovaných LLM Exercise 6: Tokenizace textového datasetu Exercise 7: Fine-tuning pro klasifikaci recenzí Exercise 8: Příprava dat pro RLHF Exercise 9: Příprava preference datasetu Exercise 10: Extrakce promptů

Zjisti, jak nastavit systémy pro sběr lidské zpětné vazby. Naučíš se osvědčené postupy pro získávání kvalitních dat – od párového porovnávání po uncertainty sampling – a prozkoumáš strategie, jak sběr dat ještě vylepšit.

Exercise 1: Metody pro sběr kvalitní zpětné vazby Exercise 2: Porovnávání a hodnocení v RLHF Exercise 3: Porovnávání sloganů pro kampaň fitness centra Exercise 4: Měření kvality a relevance zpětné vazby Exercise 5: Nízká míra jistoty Exercise 6: K-means pro shlukování zpětné vazby Exercise 7: Aktivní učení Exercise 8: Implementace pipeline aktivního učení Exercise 9: Smyčka aktivního učení

V této kapitole se dostaneš k jádru tréninku Reinforcement Learning from Human Feedback. Prozkoumáš fine-tuning s PPO, techniky efektivního trénování a způsoby, jak zvládat potenciální odchylky od cílů tvých metrik.

Exercise 1: Reward modely v praxi Exercise 2: Inicializace odměny Exercise 3: Nastavení reward traineru Exercise 4: Trénink s PPO Exercise 5: Inicializace PPO trenéra Exercise 6: Fine-tuning s PPO Exercise 7: Efektivní fine-tuning v RLHF Exercise 8: Příprava na 8bitový trénink

Aktuální cvičení

Exercise 9: Trénink s LoRA

V poslední kapitole kurzu Reinforcement Learning from Human Feedback (RLHF) prozkoumáš klíčové techniky pro hodnocení a zlepšování výkonu modelů: od ladění metrik až po zapojení různorodých zdrojů zpětné vazby. Získáš komplexní sadu nástrojů pro efektivní vylepšování svých modelů.

Exercise 1: Metriky modelů a jejich úpravy Exercise 2: Zmírnění negativní KL divergence Exercise 3: Kontrola modelu odměn Exercise 4: Zapojení různorodých zdrojů zpětné vazby Exercise 5: Hlasování většiny z více datových zdrojů Exercise 6: Identifikace nespolehlivých zdrojů dat Exercise 7: Vyhodnocování RLHF modelů Exercise 8: Interpretace křivek Exercise 9: Hodnocení RLHF pomocí metrik Exercise 10: Zakončení tvé cesty s RLHF