了解对 Llama 3 模型进行微调的多种方案，并深入认识 TorchTune——一个为简化微调而构建的库。本章将带您完成数据准备、TorchTune 的配方式系统以及高效的任务配置，帮助您掌握启动首次微调任务的关键步骤。

Llama 微调库

列出 TorchTune 配方

运行一个 TorchTune 任务

为微调进行数据预处理

为评估筛选数据集

创建训练样本

保存预处理后的数据集

使用 TorchTune 进行微调

定义自定义配方

保存自定义配方

运行自定义微调

为 Llama 微调做准备

学习微调如何显著提升小型模型在特定任务上的性能。先从微调较小的 Llama 模型开始，以增强其任务定制能力。接着，了解 LoRA 等参数高效微调技术，并探索量化以加载和使用更大的模型。

使用 Hugging Face 进行模型微调

设置 Llama 的训练参数

为客户服务问答微调 Llama

使用 ROUGE 评估生成文本

使用 LoRA 高效微调

使用 LoRA 适配器

用 LoRA 微调 Llama 以支持客服

用量化让模型更小

加载 8 位模型

在量化模型中加速推理

恭喜您！

使用 Hugging Face 的 SFTTrainer 进行微调

对开源的 Llama 大语言模型进行微调，以优化其在特定应用中的表现。学习如何使用 TorchTune 的基于配方的系统和 Hugging Face 的 SFTTrainer 运行微调循环，并用自定义数据集为模型做准备。最后，尝试 LoRA 等参数高效技术，并应用量化以降低模型内存占用，从而更高效地运行您的任务。

<h2>Llama 模型微调</h2> 本课程提供一份全面指南，帮助您准备并使用 Llama 模型。 通过动手示例和实用练习，你将学习如何配置各种 Llama 微调任务。 <h2>准备用于微调的数据集</h2>首先探索数据集准备技术，包括使用 Hugging Face Datasets 库加载、拆分和保存数据集，确保为您的 Llama 项目提供高质量数据。 <h2>使用微调框架</h2> 探索使用 TorchTune 和 Hugging Face 的 SFTTrainer 等前沿库的微调工作流程。 您将学习如何配置微调方案、设置训练参数，并利用 LoRA（低秩适配）和使用 BitsAndBytes 的量化等高效技术来优化资源使用。 通过结合在整个课程中学到的技术，你将能够以高效的方式定制 Llama 模型，以满足你的项目需求。

Working with Llama 3

使用TorchTune微调Llama以适应自定义任务，并学习量化等高效微调技术。

使用 Llama 3 进行微调

使用 TorchTune 为自定义任务微调 Llama，并学习量化等高效微调技术。

用量化让模型更小

Create Your Free Account