层初始化
多年来,神经网络权重的初始化一直是研究人员关注的重点。在训练网络时,所采用的初始化方法会直接影响网络的最终性能。
作为一名机器学习实践者,您需要能够尝试不同的初始化策略。在本练习中,您将创建一个由两层组成的小型神经网络,并决定使用均匀分布方法来初始化每一层的权重。
本练习是课程的一部分
使用 PyTorch 的深度学习入门
练习说明
- 对每一层(
layer0和layer1),使用均匀初始化方法来初始化权重。
交互式实操练习
通过完成这段示例代码来试试这个练习。
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)