1. Nauka
    2. /
  2. Kursy
    3. /
  3. Wprowadzenie do uczenia głębokiego z PyTorch
Connected

ćwiczenie

Eksperymenty ze współczynnikiem uczenia

W tym ćwiczeniu Twoim celem jest znalezienie optymalnego współczynnika uczenia, przy którym optymalizator znajdzie minimum funkcji niewypukłej \(x^{4} + x^{3} - 5x^{2}\) w dziesięciu krokach.

Wypróbujesz trzy różne wartości współczynnika uczenia. W tym zadaniu stosuj wartości z zakresu od 0,001 do 0,1.

Do dyspozycji masz funkcję optimize_and_plot(), która przyjmuje współczynnik uczenia jako pierwszy argument. Funkcja ta wykonuje 10 kroków optymalizatora SGD i wyświetla wyniki.

Instrukcje 1/3

undefined XP
  • 1
    • Wypróbuj małą wartość współczynnika uczenia, przy której optymalizator nie będzie w stanie wyjść poza pierwsze minimum po prawej stronie.
  • 2
    • Wypróbuj dużą wartość współczynnika uczenia, przy której optymalizator przeskoczy globalne minimum w punkcie -2.
  • 3
    • Na podstawie wcześniejszych wyników dobierz lepszą wartość współczynnika uczenia.