从认识大型语言模型（LLM）是什么、能做什么开始，进一步一窥其工作原理的核心概念！

Large Language Models（LLMs）简介

使用 pipeline 进行文本摘要

清理回复文本

使用预训练的 LLMs

文本生成

翻译文本

理解 transformer

识别 Transformer

使用正确的模型结构

大型语言模型（LLM）入门

学习如何利用来自 Hugging Face 的预训练 LLM 和数据集对模型进行微调。

微调前的准备

文本分词

映射分词

通过训练进行微调

设置训练参数

设置 Trainer

使用微调后的模型

微调方法

迁移学习与一次学习（one-shot learning）

迁移学习方法

微调 LLM

深入了解用于评估模型表现的多种指标，并以实际应用 LLM 面临的挑战为收尾总结。

evaluate 库

使用 evaluate 加载指标

描述指标

使用 evaluate 指标

语言任务的评估指标：困惑度与 BLEU

评估困惑度（perplexity）

BLEU 翻译

语言任务的评估指标：ROUGE、METEOR、EM

使用 ROUGE 进行评估

使用 METEOR 进行评估

使用 EM 进行评估

保护 LLMs

检查毒性

评估 regard

终点线

评估 LLM 表现

Course Glossary Introduction to LLMs in Python

大型语言模型（LLM）已成为推动当今 AI 领域诸多突破与应用的关键工具。本课程以动手实践为主，帮助您掌握理解、构建并运用 LLM 解决复杂语言任务（如翻译、文本生成、问答等）的实用知识与技能。通过交互式编码练习，您将学习如何使用 transformers。您还会探索来自 Hugging Face 的预训练语言模型和数据集。完成本课程后，您将能够使用专门的指标对预训练的 LLM 进行微调与评估。您也会了解在落地 LLM 应用时的关键挑战与伦理考量。

视频包含实时字幕，您可点击视频左下角的 "Show transcript" 展开查看。
课程术语表位于右侧的资源部分。
若要获得 CPE 学分，您需要完成课程并在合格测评中达到 70% 的得分。您可以点击右侧的 CPE 学分提示跳转到测评页面。

<h2>揭开大型语言模型热潮背后的真相</h2>
<br><br>
大型语言模型（LLMs）已成为推动当今 AI 领域中一些最令人惊叹的进步与应用的关键工具。 这门实践课程将为你提供理解、构建并利用大语言模型（LLM）强大能力所需的实用知识和技能，帮助你解决翻译、语言生成等复杂语言任务。
<br><br>
<h2>探索 LLM 架构并利用预训练模型</h2>
<br><br>
通过交互式编码练习，你将了解不同的 transformer 架构以及如何识别它们。 你将探索如何利用 Hugging Face 的预训练语言模型和数据集，对模型进行微调，并使用适合 LLM 的高级指标进行评估。 最后，你将进一步了解与 LLM 相关的伦理和偏见问题，以及识别这些问题的方法。 在本课程结束时，您将能够构建 LLM，进行微调，并使用专门的指标对其进行评估，同时理解实现真实世界 LLM 应用的关键挑战和伦理考量。

使用预训练的 LLMs

Create Your Free Account