НачатьНачать бесплатно

Обучение и тестирование модели Transformer

Теперь, когда модель TransformerEncoder готова, команде PyBooks предстоит обучить её на примерах рецензий и оценить качество работы. Обучение на этих данных поможет PyBooks выявить тенденции в тональности отзывов из обширного репозитория. Хорошо обученная модель позволит автоматизировать анализ тональности текста и обеспечить читателей полезными рекомендациями.

Следующие пакеты уже импортированы для вас: torch, nn, optim.

Экземпляр модели model класса TransformerEncoder, token_embeddings, а также train_sentences, train_labels, test_sentences и test_labels предварительно загружены для вас.

Это упражнение является частью курса

Глубокое обучение для работы с текстом на PyTorch

Посмотреть курс

Инструкции к упражнению

  • В цикле обучения разбейте предложения на токены и объедините их эмбеддинги (векторные представления).
  • Обнулите градиенты и выполните обратный проход.
  • В функции predict отключите вычисление градиентов, а затем получите прогноз тональности.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

for epoch in range(5):  
    for sentence, label in zip(train_sentences, train_labels):
        # Split the sentences into tokens and stack the embeddings
        tokens = ____
        data = torch.____([token_embeddings[token] for token in ____], dim=1)
        output = model(data)
        loss = criterion(output, torch.tensor([label]))
        # Zero the gradients and perform a backward pass
        optimizer.____()
        loss.____()
        optimizer.step()
        print(f"Epoch {epoch}, Loss: {loss.item()}")

def predict(sentence):
    model.eval()
    # Deactivate the gradient computations and get the sentiment prediction.
    with torch.____():
        tokens = sentence.split()
        data = torch.stack([token_embeddings.get(token, torch.rand((1, 512))) for token in tokens], dim=1)
        output = model(data)
        predicted = torch.____(output, dim=1)
        return "Positive" if predicted.item() == 1 else "Negative"

sample_sentence = "This product can be better"
print(f"'{sample_sentence}' is {predict(sample_sentence)}")
Редактировать и запускать код