探索針對 Llama 3 模型進行微調的各種選項，並深入了解 TorchTune——一個為簡化微調而打造的函式庫。本章會帶你完成資料準備、TorchTune 的配方式系統，以及高效率的任務設定，提供啟動你第一個微調任務的關鍵步驟。

Llama 微調函式庫

列出 TorchTune 配方

執行 TorchTune 工作

為微調進行資料前處理

為評估而篩選資料集

建立訓練樣本

儲存前處理後的資料集

使用 TorchTune 進行微調

定義自訂配方

儲存自訂配方

執行自訂微調

為 Llama 微調做好準備

了解微調如何大幅提升小型模型在特定任務上的表現。先從微調較小的 Llama 模型開始，增強其任務導向能力。接著，認識 LoRA 等參數效率微調技術，並探索量化，讓你能載入並使用更大的模型。

使用 Hugging Face 進行模型微調

設定 Llama 的訓練參數

為客服問答微調 Llama

使用 ROUGE 評估產生的文字

使用 LoRA 進行高效微調

使用 LoRA 轉接器

使用 LoRA 微調 Llama 以處理客服

用量化讓模型更精簡

載入 8-bit 模型

在量化模型中加速推論

恭喜！

在 Hugging Face 上使用 SFTTrainer 進行微調

將開源的 Llama 大型語言模型進行微調，讓它在特定情境下表現更佳。你會學到如何使用 TorchTune 的「配方」式系統與 Hugging Face 的 SFTTrainer 來執行微調迴圈，並以自訂資料集準備你的模型。最後，嘗試像 LoRA 這類參數效率技術，並套用量化以降低模型記憶體用量，讓你的任務執行更有效率。

<h2>Llama 模型微調</h2> 本課程將為您提供一份完整指南，帶您學習如何準備並運用 Llama 模型。 透過實作範例與實用練習，您將學會如何設定各種 Llama 微調任務。 <h2>為微調準備資料集</h2> 首先，深入了解資料集準備技巧，包括使用 Hugging Face Datasets 函式庫載入、分割及儲存資料集，確保您的 Llama 專案擁有高品質的數據。 <h2>使用微調框架進行操作</h2> 探索使用先進的函式庫，如TorchTune和Hugging Face的SFTTrainer，來進行微調工作流程。 您將學習如何設定微調方案、配置訓練參數，並運用如 LoRA（低秩適應）和利用 BitsAndBytes 進行量化等高效技術，以最佳化資源使用。 透過結合本課程中學到的各種技術，您將能夠高效地自訂 Llama 模型，以滿足您的專案需求。

Working with Llama 3

使用TorchTune微調Llama以適應自訂任務，並學習量化等高效微調技術。

使用 Llama 3 進行微調

使用 TorchTune 微調 Llama 以執行自訂任務，並學習如量化等高效微調技術。

Llama 基礎知識

Curriculum Manager, DataCamp

用量化讓模型更小

什麼是量化？

量化類型

以 bitsandbytes 設定量化

以量化載入模型

使用量化後的模型

微調量化後的模型

一起來練習吧！

在 Hugging Face 上使用 SFTTrainer 進行微調 - 用量化讓模型更精簡

用量化讓模型更精簡

Create Your Free Account