想像你是一位專案負責人，帶領工程師與研究員團隊開發一個 LLM。
你的首要目標，是透過有效結合 LLM 訓練的三個階段：資料準備、訓練（預先訓練＋微調），以及進階微調（RLHF），來確保模型達到最佳效能。
請使用互動式應用程式，將端到端 LLM 訓練流程的 6 個步驟排成正確的順序。
要訓練最先進的語言模型，正確的步驟順序是什麼？
本練習屬於課程
將理論付諸實踐，立即體驗我們的互動練習
AI 版圖正快速演變，而大型語言模型（LLMs）站在這場變革的最前線。本章將探討 LLMs 如何推動類人化人工智慧的發展，並透過多元應用改造各行各業。你也會了解語言建模所伴隨的挑戰與複雜度。
本章強調 LLMs 的創新性與湧現能力，同時概述用於資料前處理的各種 NLP 技術。你將學到訓練 LLMs 的挑戰，以及如何透過微調有效因應。你也會理解 N-shot 學習技術如何在標註資料有限時，讓預先訓練的模型能高效適應。
在本章中，你將學習訓練一個 LLM 的核心組成要素，例如前置訓練技術。你也會以直觀方式理解如 transformer 架構與注意力機制等複雜概念。本章將介紹進階的微調技術，並總結訓練流程以完成一個 LLM。
當前練習
本章將深入探討訓練 LLMs 時的關鍵考量，例如大規模資料的可得性、資料品質、標註正確性，以及偏誤資料的影響。你也會檢視多種 LLM 風險，如資料隱私、倫理議題與環境衝擊。最後，將討論新興研究領域與 LLMs 不斷演進的版圖。
