Вычисление перекрёстной энтропии
Перекрёстная энтропия — широко применяемый метод измерения потерь при классификации. В этом упражнении вы вычислите перекрёстную энтропию в PyTorch, используя:
y: истинную метку класса.scores: вектор предсказаний до применения softmax.
Функции потерь помогают нейронным сетям обучаться, измеряя ошибки предсказаний. Создайте вектор с унитарным кодированием (one-hot) для y, определите функцию потерь на основе перекрёстной энтропии и вычислите потери, используя scores и закодированную метку. Результатом будет одно число с плавающей точкой, представляющее потери для данного примера.
torch, CrossEntropyLoss и torch.nn.functional под псевдонимом F уже импортированы.
Это упражнение является частью курса
Введение в глубокое обучение с PyTorch
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
import torch
import torch.nn.functional as F
from torch.nn import CrossEntropyLoss
y = [2]
scores = torch.tensor([[0.1, 6.0, -2.0, 3.2]])
# Create a one-hot encoded vector of the label y
one_hot_label = F.____(torch.____(____), num_classes=____)