Inisialisasi layer
Inisialisasi bobot jaringan saraf telah menjadi fokus para peneliti selama bertahun-tahun. Saat melatih jaringan, metode yang digunakan untuk menginisialisasi bobot berdampak langsung pada kinerja akhir jaringan.
Sebagai praktisi machine learning, Anda perlu mampu bereksperimen dengan berbagai strategi inisialisasi. Pada latihan ini, Anda membuat sebuah jaringan saraf kecil yang terdiri atas dua layer dan Anda memutuskan untuk menginisialisasi bobot setiap layer menggunakan metode uniform.
Latihan ini merupakan bagian dari kursus
Pengantar Deep Learning dengan PyTorch
Instruksi latihan
- Untuk setiap layer (
layer0danlayer1), gunakan metode inisialisasi uniform untuk menginisialisasi bobotnya.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)