本章将带您了解文本深度学习及其应用。学习如何使用 PyTorch 进行文本处理，并亲手实践分词、词干提取、停用词去除等技术。理解对文本数据进行编码的重要性，并在 PyTorch 中实现编码方法。最后，通过构建结合这些技术的文本处理流水线来巩固所学。

文本预处理入门

词频分析

文本预处理

编码文本数据

图书标题的独热编码

图书标题的 Bag-of-words

将 TF-IDF 应用于图书简介

文本处理流水线构建入门

莎士比亚语料的预处理流水线

莎士比亚文本编码器

使用 PyTorch 的文本深度学习入门

探索文本分类及其在自然语言处理（NLP）中的作用。运用您的技能实现词嵌入，并使用 PyTorch 构建卷积神经网络（CNN）和循环神经网络（RNN）用于文本分类，同时了解如何使用合适的指标评估模型。

文本分类概览

在 PyTorch 中使用 Embedding

文本分类任务的归类

用于文本分类的卷积神经网络

构建用于文本的 CNN 模型

训练用于文本的 CNN 模型

测试情感分析 CNN 模型

用于文本分类的循环神经网络

构建用于文本的 RNN 模型

构建用于文本的 LSTM 模型

构建用于文本的 GRU 模型

文本分类的评估指标

评估 RNN 分类模型

评估模型性能

比较模型

使用 PyTorch 的文本分类

走进文本生成的应用与实践。理解如何利用循环神经网络（RNN）、生成对抗网络（GAN）以及预训练模型，在 PyTorch 中完成文本生成任务。同时，您将学习使用相关指标评估模型表现。

文本生成简介

构建用于文本生成的 RNN 模型

使用 RNN 进行文本生成——训练与生成

用于文本生成的生成式对抗网络

构建生成器与判别器

训练 GAN 模型

用于文本生成的预训练模型

使用预训练 GPT-2 模型进行文本续写

使用预训练 PyTorch 模型进行语言翻译

文本生成的评估指标

评估预训练文本生成模型

理解文本生成评估指标

使用 PyTorch 的文本生成

理解迁移学习的概念及其在文本分类中的应用。探索 Transformer、其架构，以及如何将其用于文本分类与生成任务。您还将深入了解注意力机制及其在文本处理中的作用。最后，认识对抗性攻击对文本分类模型的潜在影响，并学习如何保护您的模型。

用于文本分类的迁移学习

使用 BERT 进行迁移学习

评估 BERT 模型

用于文本处理的 Transformers

构建一个 Transformer 模型

Transformer 模型的训练与测试

用于文本处理的注意力机制

构建带注意力机制的 RNN 模型

带注意力机制的 RNN 模型训练与测试

对文本分类模型的对抗性攻击

Options

FGSM（Fast Gradient Sign Method）

PGD（Projected Gradient Descent）

C&W（Carlini and Wagner Attack）

对抗攻击分类

在 PyBooks 保障 AI 安全

总结

使用 PyTorch 的文本深度学习进阶主题

Shakespeare Text

开启使用 PyTorch 进行文本深度学习的精彩旅程。本课程将帮助您掌握解决各类文本相关问题的技能。您将学习文本处理的基本原理，包括编码与嵌入；并在文本数据上应用多种模型，如 CNN、RNN、GAN 以及预训练模型。最后，您将深入进阶主题，包括迁移学习方法、注意力机制，以及如何保护模型免受对抗性攻击。完成本课程后，您将具备构建强大文本深度学习模型的能力。

<h2>学习文本处理技术</h2>

你将深入学习文本处理的基本原理，掌握如何为深度学习模型预处理和编码文本数据。 您将探索分词、词干提取、词形还原等技术，以及独热编码、词袋模型和 TF-IDF 等编码方法，并将它们与卷积神经网络（CNN）和循环神经网络（RNN）结合用于文本分类。

<h2>用文本生成和 RNN 激发创意</h2>

随着你学习循环神经网络（RNN）如何实现文本生成，并探索用于文本生成的生成对抗网络（GAN）这一迷人领域，学习之旅仍在继续。 此外，你还将了解能够流畅且富有创造力地生成文本的预训练模型。

<h2>构建强大的文本分类模型</h2>

最后，你将深入学习文本深度学习的高级主题，包括用于文本分类的迁移学习技术，以及如何利用预训练模型的强大能力。 你将学习 Transformer 架构和注意力机制，并了解它们在文本处理中的应用。 

在本课程结束时，你将获得处理复杂文本数据并构建强大的深度学习模型的实践经验和技能。

Intermediate Deep Learning with PyTorch

使用PyTorch探索深度学习文本领域，解锁自然语言处理和文本生成的新可能性。

使用 PyTorch 的文本深度学习

用 PyTorch 探索文本深度学习的精彩世界，解锁自然语言处理和文本生成的新可能。

深度学习 在 Python 中

Instructor

用于文本生成的注意力机制

文本处理中的歧义

注意力机制

自注意力与多头注意力

注意力机制——设定词表与数据

模型定义

带注意力的前向传播

训练准备

模型评估

Passons à la pratique !

使用 PyTorch 的文本深度学习进阶主题 - 用于文本处理的注意力机制

用于文本处理的注意力机制

Create Your Free Account