Implementacja ReLU
Rectified Linear Unit (ReLU) to szeroko stosowana funkcja aktywacji w uczeniu głębokim, która rozwiązuje takie problemy jak zanikający gradient.
W tym ćwiczeniu zaimplementujesz ReLU w PyTorch, zastosujesz ją zarówno do wartości dodatnich, jak i ujemnych, a następnie przeanalizujesz wyniki.
Pakiet torch.nn został już zaimportowany jako nn.
To ćwiczenie jest częścią kursu
Wprowadzenie do uczenia głębokiego z PyTorch
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Create a ReLU function with PyTorch
relu_pytorch = ____