为客户服务问答微调 Llama
您在一家构建客户服务聊天机器人的公司工作。团队在客服机器人中使用 Llama 模型，您希望通过在与客户服务相关的问答数据集上进行微调来改进模型。为获得更好的性能，团队将使用 bitext 数据集对 Llama 模型进行该任务的微调。
训练脚本几乎已经完成，仅缺少最后一步：把模型、分词器、训练数据集和训练参数整合起来并启动训练。
本练习是课程的一部分
使用 Llama 3 进行微调
练习说明
- 从对应的库中导入用于监督微调的类。
- 通过传入
model、tokenizer、dataset和training_arguments来实例化用于监督微调的类。 - 运行实例方法以开始微调您的模型。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()