K-means pro shlukování zpětné vazby

Máš k dispozici dataset se zpětnými vazbami a GPT model jsi použil/a k výpočtu skóre spolehlivosti pro každou odpověď. Abys odhalil/a neobvyklé nebo odlehlé záznamy, aplikuješ k-means clustering na odpovědi s nízkou spolehlivostí.

Algoritmus KMeans, proměnné reviews a confidences a knihovna np jsou předem načtené.

Toto cvičení je součástí kurzu

Reinforcement Learning from Human Feedback (RLHF)

Pokyny k cvičení

Inicializuj algoritmus k-means. Nastav random_state na 42 pro reprodukovatelnost kódu.
Vypočítej vzdálenosti od středů clusterů, abys identifikoval/a odlehlé hodnoty jako rozdíl mezi data a odpovídajícími středy clusterů.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

def detect_anomalies(data, n_clusters=3):
    # Initialize k-means
    ____
    clusters = kmeans.fit_predict(data)
    centers = kmeans.cluster_centers_

    # Calculate distances from cluster centers
    ____
    return distances
  
anomalies = detect_anomalies(confidences)
print(anomalies)

Upravit a spustit kód

Toto cvičení je součástí kurzu

Reinforcement Learning from Human Feedback (RLHF)

SkillTag.level.advancedSkillTag.label

4.8+

Začněte kurz zdarma

Tato kapitola tě seznámí se základy Reinforcement Learning with Human Feedback (RLHF) – techniky, která využívá lidský vstup k efektivnějšímu učení AI modelů. Začni s RLHF tím, že pochopíš, čím se liší od tradičního reinforcement learningu a proč může lidská zpětná vazba zlepšit výkon AI v různých oblastech.

Exercise 1: Úvod do RLHF Exercise 2: Generování textu s RLHF Exercise 3: Klasifikace generovaného textu pro RLHF Exercise 4: RL vs. RLHF Exercise 5: Prozkoumání předtrénovaných LLM Exercise 6: Tokenizace textového datasetu Exercise 7: Fine-tuning pro klasifikaci recenzí Exercise 8: Příprava dat pro RLHF Exercise 9: Příprava preference datasetu Exercise 10: Extrakce promptů

Zjisti, jak nastavit systémy pro sběr lidské zpětné vazby. Naučíš se osvědčené postupy pro získávání kvalitních dat – od párového porovnávání po uncertainty sampling – a prozkoumáš strategie, jak sběr dat ještě vylepšit.

Exercise 1: Metody pro sběr kvalitní zpětné vazby Exercise 2: Porovnávání a hodnocení v RLHF Exercise 3: Porovnávání sloganů pro kampaň fitness centra Exercise 4: Měření kvality a relevance zpětné vazby Exercise 5: Nízká míra jistoty Exercise 6: K-means pro shlukování zpětné vazby

Aktuální cvičení

Exercise 7: Aktivní učení Exercise 8: Implementace pipeline aktivního učení Exercise 9: Smyčka aktivního učení

V této kapitole se dostaneš k jádru tréninku Reinforcement Learning from Human Feedback. Prozkoumáš fine-tuning s PPO, techniky efektivního trénování a způsoby, jak zvládat potenciální odchylky od cílů tvých metrik.

Exercise 1: Reward modely v praxi Exercise 2: Inicializace odměny Exercise 3: Nastavení reward traineru Exercise 4: Trénink s PPO Exercise 5: Inicializace PPO trenéra Exercise 6: Fine-tuning s PPO Exercise 7: Efektivní fine-tuning v RLHF Exercise 8: Příprava na 8bitový trénink Exercise 9: Trénink s LoRA

V poslední kapitole kurzu Reinforcement Learning from Human Feedback (RLHF) prozkoumáš klíčové techniky pro hodnocení a zlepšování výkonu modelů: od ladění metrik až po zapojení různorodých zdrojů zpětné vazby. Získáš komplexní sadu nástrojů pro efektivní vylepšování svých modelů.

Exercise 1: Metriky modelů a jejich úpravy Exercise 2: Zmírnění negativní KL divergence Exercise 3: Kontrola modelu odměn Exercise 4: Zapojení různorodých zdrojů zpětné vazby Exercise 5: Hlasování většiny z více datových zdrojů Exercise 6: Identifikace nespolehlivých zdrojů dat Exercise 7: Vyhodnocování RLHF modelů Exercise 8: Interpretace křivek Exercise 9: Hodnocení RLHF pomocí metrik Exercise 10: Zakončení tvé cesty s RLHF