為客服問答微調 Llama
你在一家開發客服聊天機器人的公司工作。你的團隊在客服機器人中使用 Llama 模型，你希望透過在與客服問答相關的資料集上進行微調，來提升模型表現。為了讓這些模型發揮最佳效能，你的團隊將使用 bitext 資料集，針對這個任務微調一個 Llama 模型。
訓練指令稿幾乎已經完成，只缺最後一步：把模型、tokenizer、訓練資料集與訓練參數整合在一起，並開始訓練。
本練習屬於課程
使用 Llama 3 進行微調
練習說明
- 從對應的函式庫匯入可進行監督式微調的類別。
- 傳入
model、tokenizer、dataset與training_arguments，實例化用於監督式微調的類別。 - 執行該實例的方法以開始微調你的模型。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()