Замороження шарів моделі
Ви збираєтеся донавчити модель на новому завданні після завантаження попередньо натренованих ваг. Модель містить три лінійні шари. Однак через невеликий набір даних ви хочете тренувати лише останній лінійний шар цієї моделі та «заморозити» перші два лінійні шари.
Модель уже створено й збережено в змінній model. Ви будете використовувати метод named_parameters моделі, щоб перелічити її параметри. Кожен параметр описано назвою. Ця назва — рядок із такою домовленістю про іменування: x.name, де x — індекс шару.
Пам'ятайте, що лінійний шар має два параметри: weight і bias.
Ця вправа є частиною курсу
Вступ до Deep Learning з PyTorch
Інструкції до вправи
- Використайте оператор
if, щоб перевірити, чи є параметр вагою з першого або другого шару. - Заморозьте ваги перших двох шарів цієї моделі.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
for name, param in model.named_parameters():
# Check for first layer's weight
if name == '____':
# Freeze this weight
param.____ = ____
# Check for second layer's weight
if name == '____':
# Freeze this weight
param.____ = ____