构建用于文本的 RNN 模型

作为 PyBooks 的数据分析师，您经常会遇到包含序列信息的数据集，例如客户交互、时间序列数据或文本文档。RNN 能有效分析并从此类数据中提取洞见。在本练习中，您将使用已经为您处理并编码好的 Newsgroup 数据集。该数据集包含来自不同类别的文章。您的任务是应用 RNN 将这些文章分类为 3 个类别：

rec.autos、sci.med 和 comp.graphics。

以下内容已为您加载：torch、nn、optim。

另外，参数 input_size、hidden_size（32）、num_layers（2）和 num_classes 也已预加载。

本练习及后续练习使用 sklearn 中的 fetch_20newsgroups 数据集。

本练习是课程的一部分

使用 PyTorch 的文本深度学习

查看课程

练习说明

在 RNN 类中补全一个 RNN 层和一个全连接的 Linear 层。
初始化模型。
通过清零梯度训练 RNN 模型 10 个 epoch。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Complete the RNN class
class RNNModel(nn.Module):
    def __init__(self, input_size, hidden_size, num_layers, num_classes):
        super(RNNModel, self).__init__()
        self.hidden_size = hidden_size
        self.num_layers = num_layers
        self.rnn = ____.____(input_size, hidden_size, num_layers, batch_first=True)
        self.fc = ____.____(hidden_size, num_classes)        
    def forward(self, x):
        h0 = torch.zeros(self.num_layers, x.size(0), self.hidden_size)
        out, _ = self.rnn(x, h0)
        out = out[:, -1, :] 
        out = self.fc(out)
        return out

# Initialize the model
rnn_model = ____(input_size, hidden_size, num_layers, num_classes)
criterion = nn.CrossEntropyLoss()
optimizer = optim.Adam(rnn_model.parameters(), lr=0.01)

# Train the model for ten epochs and zero the gradients
for epoch in ____: 
    optimizer.____()
    outputs = ____(X_train_seq)
    loss = criterion(outputs, y_train_seq)
    loss.backward()
    optimizer.step()
    print(f'Epoch: {epoch+1}, Loss: {loss.item()}')

编辑并运行代码