AI 版圖正快速演變，而大型語言模型（LLMs）站在這場變革的最前線。本章將探討 LLMs 如何推動類人化人工智慧的發展，並透過多元應用改造各行各業。你也會了解語言建模所伴隨的挑戰與複雜度。

AI 版圖中 LLM 的崛起

LLM 的定義

AI 版圖中的 LLM

AI 與 LLM 應用比較

真實世界的應用

商業應用

多模態應用

自動化資料驅動工作

語言建模的挑戰

語言模型能做什麼？

單一任務 vs. 多任務學習

大型語言模型（LLM）導論

本章強調 LLMs 的創新性與湧現能力，同時概述用於資料前處理的各種 NLP 技術。你將學到訓練 LLMs 的挑戰，以及如何透過微調有效因應。你也會理解 N-shot 學習技術如何在標註資料有限時，讓預先訓練的模型能高效適應。

LLM 的新奇之處

用 LLM 解決問題

傳統模型 vs. LLM

NLP 概觀（通論）

資料前處理

文字前處理與表示法

以詞嵌入取代 bag-of-words

微調

打造 LLM 的挑戰

調整一個預訓練模型

Pre-trained or fine-tuned?

學習技術

微調模型

N-shot 學習

LLMs 的組成基礎

在本章中，你將學習訓練一個 LLM 的核心組成要素，例如前置訓練技術。你也會以直觀方式理解如 transformer 架構與注意力機制等複雜概念。本章將介紹進階的微調技術，並總結訓練流程以完成一個 LLM。

訓練 LLM 的基礎組成要素

遮蔽式語言

預測下一個字詞

從零開始建置

認識 Transformer

遠距詞彙之間的關係

Transformer 組成元件的順序

Transformer 組成元件

注意力機制

多頭注意力的關注焦點

自注意力 vs. 多頭注意力

進階微調

端到端訓練

訓練、微調與回饋

打造一個 LLM

訓練方法與技術

本章將深入探討訓練 LLMs 時的關鍵考量，例如大規模資料的可得性、資料品質、標註正確性，以及偏誤資料的影響。你也會檢視多種 LLM 風險，如資料隱私、倫理議題與環境衝擊。最後，將討論新興研究領域與 LLMs 不斷演進的版圖。

資料面的疑慮與考量

你的模型公平嗎？

避免偏誤並保持相關性

銀行的客服情境

倫理與環境面向的疑慮

負責任的使用

倫理與環境

LLMs 的未來走向是什麼？

創造力 vs. 效率

分析文學作品

總結時間

議題與思考

Course Glossary

在這門課程中，你將走進大型語言模型（LLMs）的世界，了解它們如何重塑 AI 的版圖。你會透過真實案例看到它們如何改變企業與日常生活，並認識其組成要素。隨著進度推進，你也會取得對訓練方法的洞見。最後，你將探討與 LLMs 相關的重要倫理與環境面向，並了解 LLMs 的未來可能走向。完成本課後，你將全盤掌握 LLMs 的能力、應用與挑戰。

影片包含逐字稿，你可以點擊影片左下角的「Show transcript」來顯示。

課程名詞表位於右側的資源區塊。

若要取得 CPE 學分，你需要完成課程並在合格測驗中達到 70% 的成績。你可以點擊右側的 CPE 學分提示前往測驗。

Understanding Machine Learning

探索LLM的潛力，課程涵蓋應用、訓練方法、倫理考量及最新研究。

Large Language Models (LLMs) 概念

深入掌握LLM應用、訓練方法、倫理議題與最新研究，全面發掘LLM潛力。

AI 基礎

遮蔽式語言

Large Language Models (LLMs) 概念

動手互動練習