Оценка качества многоклассовой классификации

В этом упражнении вы вычислите метрики качества модели с помощью модуля sklearn.metrics.

Модель уже обучена и сохранена в переменной model. Переменные X_test и y_true также загружены вместе с функциями confusion_matrix() и classification_report() из пакета sklearn.metrics.

Сначала вы вычислите матрицу ошибок модели. Затем, чтобы обобщить результаты, вы получите точность, полноту и F1-меру с помощью функции classification_report(). При необходимости можно передать в параметр target_names список с названиями классов (они хранятся в переменной news_cat) — это сделает отчёт более наглядным.

Это упражнение является частью курса

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras

Посмотреть курс

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Use the model to predict on new data
____ = model.____(X_test)

# Choose the class with higher probability 
y_pred = np.____(predicted, axis=1)

Редактировать и запускать код

Это упражнение является частью курса

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras

SkillTag.level.advancedSkillTag.label

4.8+

Начать курс бесплатно

В этой главе вы изучите основы рекуррентных нейронных сетей (RNN). Вы начнёте с предварительных сведений, затем разберёте, как информация передаётся через сеть, и наконец реализуете подобные модели с помощью Keras для задачи классификации тональности текста.

Exercise 1: Введение в курс Exercise 2: Сравнение количества параметров RNN и ANN Exercise 3: Анализ тональности Exercise 4: Модели «последовательность в последовательность»Exercise 5: Введение в языковые модели Exercise 6: Знакомство с текстовыми данными Exercise 7: Подготовка текстовых данных для подачи в модель Exercise 8: Преобразование нового текста Exercise 9: Введение в RNN в Keras Exercise 10: Модели Keras Exercise 11: Предобработка данных в Keras Exercise 12: Ваша первая модель RNN

Вы познакомитесь с проблемами затухающего и взрывного градиентов, которые часто возникают в RNN, а также с тем, как с ними справляются ячейки GRU и LSTM. Кроме того, вы создадите слои эмбеддингов для языковых моделей и вернётесь к задаче классификации тональности текста.

Exercise 1: Затухающие и взрывные градиенты Exercise 2: Проблема взрывного градиента Exercise 3: Проблема затухающих градиентов Exercise 4: Ячейки GRU и LSTM Exercise 5: Ячейки GRU лучше, чем SimpleRNN Exercise 6: Стекирование слоёв RNN Exercise 7: Слой Embedding Exercise 8: Сравнение количества параметров Exercise 9: Трансферное обучение Exercise 10: Эмбеддинги повышают качество модели Exercise 11: Классификация тональности: возвращение к теме Exercise 12: Улучшенная классификация тональности Exercise 13: Использование слоя CNN

В этой главе вы научитесь подготавливать данные для задачи многоклассовой классификации, а также разберёте различия между многоклассовой классификацией и бинарной (анализом тональности). В завершение вы создадите модели с помощью Keras и оцените их качество.

Exercise 1: Предобработка данных Exercise 2: Подготовка векторов меток Exercise 3: Предобработка данных Exercise 4: Трансферное обучение для языковых моделей Exercise 5: Начальная точка при трансферном обучении Exercise 6: Word2Vec Exercise 7: Модели многоклассовой классификации Exercise 8: Изучение набора данных 20 News Groups Exercise 9: Классификация новостных статей Exercise 10: Оценка качества модели Exercise 11: Компромисс между точностью и полнотой Exercise 12: Точность или полнота — вот в чём вопрос Exercise 13: Оценка качества многоклассовой классификации

Текущее упражнение

В этой главе рассматриваются два практических применения RNN-моделей: генерация текста и нейронный машинный перевод. Вы научитесь подготавливать текстовые данные в формат, необходимый для работы моделей. Модель генерации текста используется для воспроизведения манеры речи персонажа — вы с интересом попробуете имитировать стиль Шелдона из «Теории большого взрыва». Нейронный машинный перевод лежит в основе таких сервисов, как Google Translate, где применяются значительно более сложные модели. В этой главе вы создадите модель, которая переводит короткие фразы с португальского на английский.

Exercise 1: Модели «последовательность в последовательность»Exercise 2: Примеры генерации текста Exercise 3: Пример нейронного машинного перевода Exercise 4: Функция генерации текста Exercise 5: Предсказание следующего символа Exercise 6: Генерация предложения с контекстом Exercise 7: Изменение масштаба вероятностного распределения Exercise 8: Модели генерации текста Exercise 9: Создание векторов предложений и следующих символов Exercise 10: Подготовка данных для обучения Exercise 11: Создание модели генерации текста Exercise 12: Нейронный машинный перевод Exercise 13: Подготовка входного текста Exercise 14: Подготовка выходного текста Exercise 15: Перевод с португальского на английский Exercise 16: Поздравляем!