1. Learn
    2. /
  2. Courses
    3. /
  3. Глибоке навчання для тексту з PyTorch
Connected

Exercise

Навчання та тестування моделі Transformer

Маючи модель TransformerEncoder, наступний крок у PyBooks — навчити її на прикладах відгуків і оцінити якість. Навчання на цих прикладах допоможе PyBooks зрозуміти тенденції тональності у своєму великому сховищі. Коли модель працює добре, PyBooks зможе автоматизувати аналіз тональності, щоб читачі отримували змістовні рекомендації та відгуки.

Для вас імпортовано такі пакети: torch, nn, optim.

Екземпляр model класу TransformerEncoder, token_embeddings, а також train_sentences, train_labels, test_sentences, test_labels уже підготовлено для вас.

Instructions

100 XP
  • У навчальному циклі розбийте речення на токени та об'єднайте вкладення в стек.
  • Обнуліть градієнти та виконайте зворотне поширення помилки.
  • У функції predict вимкніть обчислення градієнтів, а тоді отримайте прогноз тональності.