Výpočet cross-entropy loss
Cross-entropy loss je široce používaná metoda pro měření klasifikační ztráty. V tomto cvičení ji vypočítáš v PyTorchi pomocí:
y: skutečného popisku (ground truth label).scores: vektoru predikcí před softmaxem.
Ztrátové funkce pomáhají neuronovým sítím učit se tím, že měří chyby predikcí. Vytvoř one-hot enkódovaný vektor pro y, definuj ztrátovou funkci cross-entropy a vypočítej ztrátu pomocí scores a enkódovaného popisku. Výsledkem bude jediné desetinné číslo reprezentující ztrátu pro daný vzorek.
torch, CrossEntropyLoss a torch.nn.functional jako F jsou již naimportované.
Toto cvičení je součástí kurzu
Introduction to Deep Learning with PyTorch
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
import torch
import torch.nn.functional as F
from torch.nn import CrossEntropyLoss
y = [2]
scores = torch.tensor([[0.1, 6.0, -2.0, 3.2]])
# Create a one-hot encoded vector of the label y
one_hot_label = F.____(torch.____(____), num_classes=____)