レイヤーの初期化
ニューラルネットワークの重みの初期化は、長年にわたり研究者の関心を集めてきました。ネットワークを学習させる際、どの方法で重みを初期化するかは、最終的な性能に直接影響します。
Machine Learning の実践者として、さまざまな初期化戦略を試せることが重要です。この演習では、2 つのレイヤーからなる小さなニューラルネットワークを作成し、各レイヤーの重みを一様分布による方法で初期化します。
この演習はコースの一部です
PyTorchで学ぶIntroduction to Deep Learning
演習の手順
- 各レイヤー(
layer0とlayer1)について、一様初期化メソッドを使って重みを初期化してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)