Schichtinitialisierung
Die Initialisierung der Gewichte eines neuronalen Netzes steht schon seit vielen Jahren im Fokus der Forschung. Beim Training eines Netzes hat die Methode, die zur Initialisierung der Gewichte verwendet wird, einen direkten Einfluss auf die endgültige Leistung des Netzes.
Als Machine-Learning-Experte solltest du in der Lage sein, mit verschiedenen Initialisierungsstrategien zu experimentieren. In dieser Übung erstellst du ein kleines neuronales Netz, das aus zwei Schichten besteht, und entscheidest dich dafür, die Gewichte jeder Schicht mit der Uniform-Methode zu initialisieren.
Diese Übung ist Teil des Kurses
Einführung in Deep Learning mit PyTorch
Anleitung zur Übung
- Verwende für jede Schicht (
layer0
undlayer1
) die Methode der uniform-Initialisierung, um die Gewichte zu initialisieren.
Interaktive Übung
Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)