Verken opties voor het fijn-afstemmen van Llama 3-modellen en duik in TorchTune, een bibliotheek die fine-tuning eenvoudiger maakt. Dit hoofdstuk begeleidt je bij het voorbereiden van data, het receptgebaseerde systeem van TorchTune en het efficiënt configureren van taken, zodat je de belangrijkste stappen kent om je eerste fine-tuningtaak te starten.

De Llama-finetuningbibliotheken

TorchTune-recepten weergeven

Een TorchTune-taak uitvoeren

Data voorbereiden voor fine-tuning

Gegevenssets filteren voor evaluatie

Trainingsvoorbeelden maken

Voorbewerkte gegevenssets opslaan

Fine-tunen met TorchTune

Aangepaste recepten definiëren

Aangepaste recepten opslaan

Aangepaste fine-tuning uitvoeren

Voorbereiden op Llama fine-tuning

Leer hoe fine-tuning de prestaties van kleinere modellen voor specifieke taken aanzienlijk kan verbeteren. Begin met het fijn-afstemmen van kleinere Llama-modellen om hun taakspecifieke capaciteiten te vergroten. Ontdek daarna parameter-efficiënte fine-tuningtechnieken zoals LoRA, en verken kwantisatie om nog grotere modellen te laden en te gebruiken.

Model finetunen met Hugging Face

Llama-trainingsargumenten instellen

Llama fine-tunen voor klantenservice-QA

Gegenereerde tekst evalueren met ROUGE

Efficiënt fine-tunen met LoRA

LoRA-adapters gebruiken

LoRA-finetuning van Llama voor klantenservice

Modellen kleiner maken met kwantisatie

8-bitmodellen laden

Inference versnellen in gequantiseerde modellen

Gefeliciteerd!

Fine-tunen met SFTTrainer op Hugging Face

Stem de open-source Llama-LLM fijn af om de prestaties voor gespecialiseerde toepassingen te optimaliseren. Leer hoe je het receptgebaseerde systeem van TorchTune en de SFTTrainer van Hugging Face gebruikt om fine-tuningloops uit te voeren en je modellen voor te bereiden met aangepaste gegevenssets. Experimenteer tot slot met parameter-efficiënte technieken zoals LoRA en pas kwantisatie toe om het geheugengebruik van het model te verlagen en je taken efficiënter uit te voeren.

<h2>Het Llama-model nog wat bijschaven</h2> Deze cursus is een complete handleiding voor het maken en werken met Llama-modellen. Met behulp van praktische voorbeelden en oefeningen leer je hoe je verschillende Llama-fijnafstemmingstaken kunt instellen. <h2>Maak datasets klaar voor het afstemmen</h2> Begin met het verkennen van technieken voor het voorbereiden van datasets, zoals het laden, splitsen en opslaan van datasets met behulp van de Hugging Face Datasets-bibliotheek, zodat je verzekerd bent van hoogwaardige data voor je Llama-projecten. <h2>Werk met frameworks voor fijnafstemming</h2> Check eens hoe je workflows kunt finetunen met toffe bibliotheken zoals TorchTune en SFTTrainer van Hugging Face. Je leert hoe je recepten kunt afstemmen, trainingsargumenten kunt instellen en handige technieken zoals LoRA (Low-Rank Adaptation) en kwantisering met BitsAndBytes kunt gebruiken om je gebruik van bronnen te optimaliseren. Door de technieken die je tijdens de cursus hebt geleerd te combineren, kun je Llama-modellen op een efficiënte manier aanpassen aan de behoeften van je projecten.

Working with Llama 3

Stem Llama af voor specifieke taken met TorchTune en leer efficiënte technieken zoals kwantisatie.

Fijn-afstemmen met Llama 3

Pas Llama aan voor je eigen taken met TorchTune en leer handige technieken voor efficiënte aanpassingen, zoals kwantisering.

Basisinfo over lama's

Aangepaste fine-tuning uitvoeren

Fijn-afstemmen met Llama 3

Interactieve oefening met praktijkervaring