Сравнение количества параметров RNN и ANN

В этом упражнении вы сравните количество параметров искусственной нейронной сети (ANN) и рекуррентной нейронной сети (RNN). Размер словаря для обеих моделей равен 10,000.

Модели уже определены для вас и имеют схожую архитектуру: один слой с 256 нейронами (Dense или RNN) и выходной слой. Они хранятся в переменных ann_model и rnn_model.

Используйте метод .summary(), чтобы вывести архитектуру моделей и количество параметров, а затем выберите верное утверждение.

Это упражнение является частью курса

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение

Это упражнение является частью курса

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras

SkillTag.level.advancedSkillTag.label

4.8+

Начать курс бесплатно

В этой главе вы изучите основы рекуррентных нейронных сетей (RNN). Вы начнёте с предварительных сведений, затем разберёте, как информация передаётся через сеть, и наконец реализуете подобные модели с помощью Keras для задачи классификации тональности текста.

Exercise 1: Введение в курс Exercise 2: Сравнение количества параметров RNN и ANN

Текущее упражнение

Exercise 3: Анализ тональности Exercise 4: Модели «последовательность в последовательность»Exercise 5: Введение в языковые модели Exercise 6: Знакомство с текстовыми данными Exercise 7: Подготовка текстовых данных для подачи в модель Exercise 8: Преобразование нового текста Exercise 9: Введение в RNN в Keras Exercise 10: Модели Keras Exercise 11: Предобработка данных в Keras Exercise 12: Ваша первая модель RNN

Вы познакомитесь с проблемами затухающего и взрывного градиентов, которые часто возникают в RNN, а также с тем, как с ними справляются ячейки GRU и LSTM. Кроме того, вы создадите слои эмбеддингов для языковых моделей и вернётесь к задаче классификации тональности текста.

Exercise 1: Затухающие и взрывные градиенты Exercise 2: Проблема взрывного градиента Exercise 3: Проблема затухающих градиентов Exercise 4: Ячейки GRU и LSTM Exercise 5: Ячейки GRU лучше, чем SimpleRNN Exercise 6: Стекирование слоёв RNN Exercise 7: Слой Embedding Exercise 8: Сравнение количества параметров Exercise 9: Трансферное обучение Exercise 10: Эмбеддинги повышают качество модели Exercise 11: Классификация тональности: возвращение к теме Exercise 12: Улучшенная классификация тональности Exercise 13: Использование слоя CNN

В этой главе вы научитесь подготавливать данные для задачи многоклассовой классификации, а также разберёте различия между многоклассовой классификацией и бинарной (анализом тональности). В завершение вы создадите модели с помощью Keras и оцените их качество.

Exercise 1: Предобработка данных Exercise 2: Подготовка векторов меток Exercise 3: Предобработка данных Exercise 4: Трансферное обучение для языковых моделей Exercise 5: Начальная точка при трансферном обучении Exercise 6: Word2Vec Exercise 7: Модели многоклассовой классификации Exercise 8: Изучение набора данных 20 News Groups Exercise 9: Классификация новостных статей Exercise 10: Оценка качества модели Exercise 11: Компромисс между точностью и полнотой Exercise 12: Точность или полнота — вот в чём вопрос Exercise 13: Оценка качества многоклассовой классификации

В этой главе рассматриваются два практических применения RNN-моделей: генерация текста и нейронный машинный перевод. Вы научитесь подготавливать текстовые данные в формат, необходимый для работы моделей. Модель генерации текста используется для воспроизведения манеры речи персонажа — вы с интересом попробуете имитировать стиль Шелдона из «Теории большого взрыва». Нейронный машинный перевод лежит в основе таких сервисов, как Google Translate, где применяются значительно более сложные модели. В этой главе вы создадите модель, которая переводит короткие фразы с португальского на английский.

Exercise 1: Модели «последовательность в последовательность»Exercise 2: Примеры генерации текста Exercise 3: Пример нейронного машинного перевода Exercise 4: Функция генерации текста Exercise 5: Предсказание следующего символа Exercise 6: Генерация предложения с контекстом Exercise 7: Изменение масштаба вероятностного распределения Exercise 8: Модели генерации текста Exercise 9: Создание векторов предложений и следующих символов Exercise 10: Подготовка данных для обучения Exercise 11: Создание модели генерации текста Exercise 12: Нейронный машинный перевод Exercise 13: Подготовка входного текста Exercise 14: Подготовка выходного текста Exercise 15: Перевод с португальского на английский Exercise 16: Поздравляем!