Zacznij terazZacznij za darmo

Porównywanie funkcji aktywacji

Porównywanie funkcji aktywacji wymaga trochę kodowania – ale to nic, z czym sobie nie poradzisz!

Wypróbujesz różne funkcje aktywacji na modelu wieloetykietowym, który zbudowałeś(-aś) dla maszyny nawadniającej w rozdziale 2. Funkcja get_model('relu') zwraca kopię tego modelu i stosuje funkcję aktywacji 'relu' do jego ukrytej warstwy.

W pętli przejdziesz przez kilka funkcji aktywacji, wygenerujesz dla każdej nowy model i przeprowadzisz jego trening. Zapisując historię trenowania (callback history) w słowniku, będziesz móc w następnym ćwiczeniu zwizualizować, która funkcja aktywacji wypadła najlepiej!

X_train, y_train, X_test, y_test są gotowe do użycia podczas trenowania modeli.

To ćwiczenie jest częścią kursu

Wprowadzenie do uczenia głębokiego z Keras

Zobacz kurs

Instrukcje do ćwiczenia

  • Wypełnij tablicę funkcji aktywacji wartościami relu, leaky_relu, sigmoid i tanh.
  • Dla każdej iteracji pobierz nowy model za pomocą get_model(), przekazując bieżącą funkcję aktywacji jako parametr.
  • Dopasuj model, podając dane treningowe oraz validation_data, użyj 20 epochs i ustaw verbose na 0.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Activation functions to try
activations = [____, ____, ____, ____]

# Loop over the activation functions
activation_results = {}

for act in activations:
  # Get a new model with the current activation
  model = ____
  # Fit the model and store the history results
  h_callback = ____
  activation_results[act] = h_callback
Edytuj i uruchom kod