先了解大型語言模型（LLM）是什麼、能做什麼，再一探其運作原理，為你的學習開個好頭！

Large Language Models（LLMs）入門

使用 pipeline 進行摘要

清理回覆內容

使用預先訓練的 LLM

產生文字

翻譯文字

認識 transformer

辨識 transformer

使用正確的模型結構

大型語言模型（LLM）入門

學習如何運用 Hugging Face 上的預訓練 LLM 與資料集來微調模型。

微調前的準備

文字分詞（Tokenization）

對應 tokenization

透過訓練進行微調

設定訓練參數

設定 Trainer

使用微調後的模型

微調方法

以一次學習進行遷移學習

遷移學習的作法

微調 LLM

深入認識用於評估模型效能的不同指標，最後總結在真實世界中導入 LLM 會面臨的各種挑戰。

evaluate 函式庫

用 evaluate 載入評估指標

說明評估指標

使用 evaluate 指標

語言任務的評估指標：perplexity 與 BLEU

評估困惑度（perplexity）

BLEU 翻譯

語言任務的衡量指標：ROUGE、METEOR、EM

使用 ROUGE 進行評估

使用 METEOR 進行評估

使用 EM 評估

保護 LLMs 的安全性

檢查有害度

評估 regard

最後衝刺

評估 LLM 的效能

Course Glossary Introduction to LLMs in Python

大型語言模型（LLM）已成為推動當今 AI 領域眾多突破與應用的關鍵工具。這堂動手做的課程會帶你掌握實作所需的知識與技能，了解、建構並善用 LLM 的威力，來解決翻譯、語言生成、問答等各式複雜的語言任務。透過互動式程式練習，你會學習如何運用 transformers。你也會探索 Hugging Face 上的預先訓練語言模型與資料集。修完本課程後，你將能以專門的衡量指標微調並評估預訓練的 LLM，同時理解在真實情境中部署 LLM 的關鍵挑戰與倫理考量。

影片包含即時逐字稿，你可以按一下影片左下角的「Show transcript」來顯示。
課程名詞表可在右側的資源區找到。
若要取得 CPE 學分，你需要完成課程並在合格測驗中取得 70% 的成績。你可以按一下右側的 CPE 學分提示前往該測驗。

<h2>揭開大型語言模型熱潮背後的真相</h2>
<br><br>
大型語言模型（LLMs）已成為推動當今人工智慧領域中最令人驚豔的進展與應用的關鍵工具。 這門實作課程將帶給您實用的知識與技能，幫助您理解、建構並運用LLM的強大功能，解決如翻譯、語言生成等各種複雜的語言任務。
<br><br>
<h2>探索LLM架構並善用預訓練模型</h2>
<br><br>
透過互動式程式練習，您將認識各種 transformer 架構及其辨識方式。 您將學習如何利用 Hugging Face 上的預訓練語言模型與資料集，透過進階指標對您的模型進行微調與評估，讓其更適合大型語言模型的應用。 最後，您將進一步了解與大型語言模型（LLM）相關的倫理與偏見問題，以及識別這些問題的方法。 在本課程結束時，您將能夠建構大型語言模型（LLM）、進行微調，並運用專業指標進行評估，同時深入了解實際應用大型語言模型時所面臨的主要挑戰與倫理考量。

使用 METEOR 進行評估

Python 的 LLM 入門

練習說明

動手互動練習