Utforska alternativ för finjustering av Llama 3-modeller och fördjupa dig i TorchTune, ett bibliotek byggt för att förenkla finjustering. Det här kapitlet guidar dig genom dataförberedelse, TorchTunes receptbaserade system och effektiv uppgiftskonfiguration – och ger dig de viktigaste stegen för att starta din första finjusteringsuppgift.

Bibliotek för finjustering av Llama

Lista TorchTune-recept

Köra en TorchTune-uppgift

Förbehandling av data för finjustering

Filtrera datamängder för utvärdering

Skapa träningsexempel

Spara förbehandlade datamängder

Finjustering med TorchTune

Definiera anpassade recept

Spara anpassade recept

Köra anpassad finjustering

Förberedelser för finjustering av Llama

Lär dig hur finjustering kan förbättra prestandan hos mindre modeller avsevärt för specifika uppgifter. Börja med att finjustera mindre Llama-modeller för att stärka deras uppgiftsspecifika förmågor. Utforska sedan parametereffektiva finjusteringstekniker som LoRA, och bekanta dig med kvantering för att läsa in och använda även större modeller.

Finjustering av modeller med Hugging Face

Konfigurera träningsargument för Llama

Finjustera Llama för kundtjänst-QA

Utvärdera genererad text med ROUGE

Effektiv finjustering med LoRA

Använda LoRA-adaptrar

LoRA-finjustering av Llama för kundtjänst

Att göra modeller mindre med kvantisering

Ladda modeller med 8-bitars precision

Snabbare inferens i kvantiserade modeller

Grattis!

Finjustering med SFTTrainer på Hugging Face

Finjustera den öppna LLM:en Llama för att optimera dess prestanda i specialiserade tillämpningar. Lär dig använda TorchTunes receptbaserade system och Hugging Face SFTTrainer för att köra finjusteringsloopar och förbereda dina modeller med anpassade datamängder. Experimentera sedan med parametereffektiva tekniker som LoRA och tillämpa kvantering för att minska modellens minnesanvändning och köra dina uppgifter mer effektivt.

<h2>Finjustera Llama-modellen</h2> Den här kursen ger en komplett guide till hur du förbereder och arbetar med Llama-modeller. Genom praktiska exempel och övningar lär du dig hur du konfigurerar olika Llama fine-tuning-uppgifter. <h2>Förbered dataset för finjustering</h2> Börja med att utforska tekniker för att förbereda dataset, inklusive att ladda, dela upp och spara dataset med Hugging Face Datasets-biblioteket, så att du får högkvalitativ data till dina Llama-projekt. <h2>Arbeta med finjusteringsramverk</h2> Utforska finjusteringsarbetsflöden med hjälp av toppmoderna bibliotek som TorchTune och Hugging Face’s SFTTrainer. Du kommer att lära dig hur du konfigurerar fine-tuning-recept, ställer in träningsparametrar och använder effektiva tekniker som LoRA (Low-Rank Adaptation) och kvantisering med BitsAndBytes för att optimera resursanvändningen. Genom att kombinera teknikerna du lärt dig under kursen kan du anpassa Llama-modeller för att effektivt passa dina projekts behov.

Working with Llama 3

Finjustera Llama för anpassade uppgifter med TorchTune och lär dig effektiva tekniker som kvantisering.

Finjustering med Llama 3

Finjustera Llama för egna uppgifter med TorchTune och lär dig effektiva metoder som kvantisering.

Llama-grunderna

Köra anpassad finjustering

Finjustering med Llama 3

Interaktiv övning med praktiskt arbete