ПочатиПочніть безкоштовно

Ініціалізація шару

Ініціалізація ваг нейронної мережі багато років була у фокусі досліджень. Під час тренування мережі обраний спосіб ініціалізації ваг безпосередньо впливає на її підсумкову ефективність.

Як фахівці з машинного навчання, ви маєте вміти експериментувати з різними стратегіями ініціалізації. У цій вправі ви створюєте невелику нейронну мережу з двох шарів і вирішуєте ініціалізувати ваги кожного шару рівномірним методом.

Ця вправа є частиною курсу

Вступ до Deep Learning з PyTorch

Переглянути курс

Інструкції до вправи

  • Для кожного шару (layer0 і layer1) використайте рівномірний метод ініціалізації, щоб ініціалізувати ваги.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)

# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)

model = nn.Sequential(layer0, layer1)
Редагувати та запускати код