Erkunde Optionen zur Feinabstimmung von Llama-3-Modellen und tauche in TorchTune ein – eine Bibliothek, die Fine-Tuning vereinfacht. Dieses Kapitel führt dich durch die Datenaufbereitung, das rezeptbasierte System von TorchTune und die effiziente Aufgabenkonfiguration und zeigt dir die wichtigsten Schritte, um deine erste Fine-Tuning-Aufgabe zu starten.

Die Llama-Bibliotheken zum Finetuning

TorchTune-Rezepte auflisten

Eine TorchTune-Task ausführen

Daten für das Fine-Tuning vorverarbeiten

Datensätze für die Evaluation filtern

Trainingsbeispiele erstellen

Vorverarbeitete Datensätze speichern

Feinabstimmung mit TorchTune

Eigene Rezepte definieren

Eigene Rezepte speichern

Eigenes Fine-Tuning ausführen

Vorbereitung auf die Llama-Feinabstimmung

Erfahre, wie Fine-Tuning die Leistung kleinerer Modelle für spezifische Aufgaben deutlich verbessern kann. Starte mit der Feinabstimmung kleinerer Llama-Modelle, um ihre aufgabenspezifischen Fähigkeiten zu steigern. Entdecke anschließend parametereffiziente Fine-Tuning-Techniken wie LoRA und nutze Quantisierung, um noch größere Modelle zu laden und einzusetzen.

Modell-Fine-Tuning mit Hugging Face

Llama-Trainingsargumente einrichten

Llama für Kundenservice-Q&A fine-tunen

Generierten Text mit ROUGE auswerten

Effizientes Feintuning mit LoRA

LoRA-Adapter verwenden

LoRA-Fine-Tuning von Llama für den Kundensupport

Modelle mit Quantisierung verkleinern

8-Bit-Modelle laden

Inference in quantisierten Modellen beschleunigen

Glückwunsch!

Feinabstimmung mit SFTTrainer auf Hugging Face

Nimm Feineinstellungen am Open-Source-LLM Llama vor, um seine Leistung für spezialisierte Anwendungen zu optimieren. Lerne, wie du mit TorchTunes rezeptbasiertem System und Hugging Faces SFTTrainer Fine-Tuning-Schleifen ausführst und deine Modelle mit eigenen Datensätzen vorbereitest. Experimentiere anschließend mit parametereffizienten Techniken wie LoRA und wende Quantisierung an, um den Speicherbedarf des Modells zu verringern und deine Aufgaben effizienter auszuführen.

<h2>Feinabstimmung des Llama-Modells</h2> Dieser Kurs ist ein umfassender Leitfaden für die Vorbereitung und Arbeit mit Llama-Modellen. Mit praktischen Beispielen und Übungen lernst du, wie du verschiedene Llama-Feinabstimmungsaufgaben einrichtest. <h2>Datensätze für die Feinabstimmung vorbereiten</h2> Schau dir erst mal die Techniken zur Vorbereitung von Datensätzen an, wie das Laden, Teilen und Speichern von Datensätzen mit der Hugging Face Datasets-Bibliothek, damit du hochwertige Daten für deine Llama-Projekte hast. <h2>Arbeite mit Feinabstimmungs-Frameworks</h2> Probier mal aus, wie du mit coolen Bibliotheken wie TorchTune und SFTTrainer von Hugging Face deine Workflows optimieren kannst. Du lernst, wie du Feinabstimmungsrezepte konfigurierst, Trainingsargumente einrichtest und effiziente Techniken wie LoRA (Low-Rank Adaptation) und Quantisierung mit BitsAndBytes nutzt, um die Ressourcennutzung zu optimieren. Indem du die im Kurs erlernten Techniken kombinierst, kannst du Llama-Modelle effizient an die Anforderungen deiner Projekte anpassen.

Working with Llama 3

Llama mit TorchTune für Aufgaben anpassen und effiziente Feinabstimmungstechniken wie Quantisierung lernen.

Feinabstimmung mit Llama 3

Optimiere Llama mit TorchTune für deine eigenen Aufgaben und lerne Techniken für effizientes Fine-Tuning, wie zum Beispiel Quantisierung.

Llama-Grundlagen

Vorverarbeitete Datensätze speichern

Feinabstimmung mit Llama 3

Anleitung zur Übung

Interaktive Übung