Експерименти з dropout
Dropout допомагає запобігати перенавчанню, випадково зануляючи частину вихідних значень під час тренування. У цій вправі ви збудуєте просту нейронну мережу з dropout і подивитеся, як вона поводиться в режимах тренування та оцінювання.
Пакет torch.nn попередньо завантажено як nn, а features уже визначено для вас.
Ця вправа є частиною курсу
Вступ до Deep Learning з PyTorch
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Model with Dropout
model = nn.Sequential(
nn.Linear(8, 6),
nn.Linear(6, 4),
____)
# Forward pass in training mode (Dropout active)
model.____
output_train = ____