Оцінювання передбачень моделі за допомогою функцій втрат

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

Ця вправа є частиною курсу

Вступ до Deep Learning з PyTorch

SkillTag.level.intermediateSkillTag.label

4.8+

Почніть курс безкоштовно

Безпілотні авто, смартфони, пошуковики — глибоке навчання вже повсюдно. Перш ніж створювати складні моделі, ви ознайомитеся з PyTorch — фреймворком для глибокого навчання. Ви навчитеся працювати з тензорами, створювати структури даних PyTorch і збудуєте свою першу нейронну мережу в PyTorch на лінійних шарах.

Exercise 1: Вступ до глибокого навчання з PyTorch Exercise 2: Перші кроки з тензорами в PyTorch Exercise 3: Перевірка та додавання тензорів Exercise 4: Нейронні мережі та шари Exercise 5: Мережа з лінійним шаром Exercise 6: Розуміння ваг Exercise 7: Приховані шари та параметри Exercise 8: Ваша перша нейронна мережа Exercise 9: Комбінування лінійних шарів Exercise 10: Підрахунок кількості параметрів

Щоб навчити нейронну мережу в PyTorch, спершу треба розібратися з додатковими складниками, як-от функції активації та функції втрат. Далі ви побачите, що навчання мережі полягає в мінімізації цієї функції втрат, що робиться через обчислення градієнтів. Ви дізнаєтеся, як використовувати ці градієнти для оновлення параметрів моделі.

Exercise 1: Ознайомлення з функціями активації Exercise 2: Активуйте своє розуміння!Exercise 3: Функції sigmoid і softmax Exercise 4: Запуск прямого проходу Exercise 5: Побудова бінарного класифікатора в PyTorch Exercise 6: Від регресії до багатокласової класифікації Exercise 7: Оцінювання передбачень моделі за допомогою функцій втрат

Поточна вправа

Exercise 8: Створення міток у форматі one-hot Exercise 9: Обчислення крос-ентропійної втрати Exercise 10: Використання похідних для оновлення параметрів моделі Exercise 11: Доступ до параметрів моделі Exercise 12: Ручне оновлення ваг Exercise 13: Використання оптимізатора PyTorch

Тепер, коли ви знаєте ключові складники нейронної мережі, ви навчите її за допомогою циклу навчання. Ви розглянете можливі проблеми, як-от зникання градієнтів, і дізнаєтеся стратегії їх розв'язання: альтернативні функції активації, налаштування швидкості навчання та імпульсу.

Exercise 1: Докладніше про завантаження даних Exercise 2: Використання TensorDataset Exercise 3: Використання DataLoader Exercise 4: Пишемо наш перший цикл навчання Exercise 5: Використання MSELoss Exercise 6: Написання циклу навчання Exercise 7: Функції активації ReLU Exercise 8: Реалізація ReLU Exercise 9: Реалізація leaky ReLU Exercise 10: Розуміння функцій активації Exercise 11: Швидкість навчання та момент Exercise 12: Експерименти зі швидкістю навчання Exercise 13: Експериментуємо з моментом імпульсу

Навчання моделі глибокого навчання — це певною мірою мистецтво. Щоб переконатися, що модель навчається коректно, потрібно відстежувати під час навчання певні метрики, зокрема втрати та точність. Ми навчимося обчислювати такі метрики та зменшувати перенавчання.

Exercise 1: Ініціалізація шарів і transfer learning Exercise 2: Процес тонкого налаштування Exercise 3: Замороження шарів моделі Exercise 4: Ініціалізація шару Exercise 5: Оцінювання якості моделі Exercise 6: Написання циклу оцінювання Exercise 7: Обчислення точності за допомогою torchmetrics Exercise 8: Боротьба з перенавчанням Exercise 9: Експерименти з dropout Exercise 10: Розуміння overfitting Exercise 11: Покращення продуктивності моделі Exercise 12: Реалізація випадкового пошуку Exercise 13: Підсумкове відео