大型語言模型的發展突飛猛進，而 Llama 格外亮眼。隨著 Llama 3 的推出，應用可能性大幅提升。你將探索它的能力，學會透過 llama-cpp-python 使用它，並了解如何透過調整參數與指定對話角色來控制模型行為。

什麼是 Llama？

與 Llama 3 對話

擷取回應

調整 Llama 3 參數

引導客服回應

確保回應安全

產生具創意的文案

指派聊天角色

建立對話

System 訊息

認識 LLM 與 Llama

語言模型不只會產生文字——它也能被引導產生具結構、具脈絡感知的回應。本章將帶你運用 llama-cpp-python 以特定格式產生輸出，包括可與資料整合的 JSON 相容回應。你也會透過提示技巧微調 Llama 的輸出，讓回應更貼近不同任務。最後，你將建立能在多輪互動中維持脈絡的對話，讓交流更自然。

引導非結構化回應

為 Llama 設計良好格式的提示

使用 Llama 進行少量示例提示（Few-shot prompting）

產生結構化輸出

建立 JSON 庫存清單

指定結構化的 JSON 結構（schema）

建立可對話的類別

單輪對話

多輪對話

恭喜你！

在本機使用 Llama

像 Llama 這類的開源大型語言模型可以在你自己的電腦上執行，有助於保護資料隱私並降低成本。這門課會帶你在本機環境設定並使用 Llama。你將學到如何用簡單技巧提升效果，例如調整提示詞以獲得更好的回應、建立能記住脈絡的對話，以及依專案需求調整輸出——無論是產生結構化資料，或是讓回應更清楚易讀。本課程適合已具備使用 Python 經驗的學習者。

Python Toolbox

探索在本地運行Llama LLM的最新技術並將其整合到您的技術堆棧中。

使用 Llama 3

AI 工程師助理職涯路徑（適合資料科學家）

大語言模型開發之旅

Llama 基礎知識

Machine Learning Engineer

控制模型輸出

精煉提示

有效提示的要素

Zero-shot 提示

精煉 zero-shot 提示

Few-shot 提示

使用 stop 字串

一起來練習吧！

在本機使用 Llama - 引導非結構化回應

引導非結構化回應

Create Your Free Account