Zmrazení vrstev modelu
Chystáš se doladit model na nový úkol po načtení předtrénovaných vah. Model obsahuje tři lineární vrstvy. Protože je ale tvůj dataset malý, chceš trénovat pouze poslední lineární vrstvu a první dvě lineární vrstvy zmrazit.
Model už byl vytvořen a je uložen v proměnné model. K zobrazení parametrů modelu použiješ metodu named_parameters. Každý parametr je popsán názvem – jde o řetězec ve formátu x.name, kde x je index dané vrstvy.
Měj na paměti, že lineární vrstva má dva parametry: weight (váhy) a bias.
Toto cvičení je součástí kurzu
Introduction to Deep Learning with PyTorch
Pokyny k cvičení
- Pomocí příkazu
ifzkontroluj, zda parametr patří mezi váhy první nebo druhé vrstvy. - Zmraz váhy prvních dvou vrstev tohoto modelu.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
for name, param in model.named_parameters():
# Check for first layer's weight
if name == '____':
# Freeze this weight
param.____ = ____
# Check for second layer's weight
if name == '____':
# Freeze this weight
param.____ = ____