Порівняння функцій активації
Порівнювати функції активації — це трохи коду, але з цим ви впораєтеся!
Ви випробуєте різні функції активації на мультибрежимковій моделі з розділу 2, яку ви створили для системи зрошення ферми. Функція get_model('relu') повертає копію цієї моделі та застосовує функцію активації 'relu' до її прихованого шару.
Ви пройдетеся циклом по кількох функціях активації, згенеруєте для кожної нову модель і натренуєте її. Зберігаючи об'єкт історії навчання (history callback) у словнику, ви зможете візуалізувати, яка функція активації спрацювала найкраще, у наступній вправі!
X_train, y_train, X_test, y_test уже підготовлені для використання під час навчання ваших моделей.
Ця вправа є частиною курсу
Вступ до Deep Learning з Keras
Інструкції до вправи
- Заповніть масив функцій активації значеннями
relu,leaky_relu,sigmoidіtanh. - На кожній ітерації отримуйте нову модель за допомогою
get_model(), передаючи поточну функцію активації як параметр. - Навчіть модель, передавши тренувальні дані та
validation_data, використайте 20epochsі встановіть verbose у 0.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Activation functions to try
activations = [____, ____, ____, ____]
# Loop over the activation functions
activation_results = {}
for act in activations:
# Get a new model with the current activation
model = ____
# Fit the model and store the history results
h_callback = ____
activation_results[act] = h_callback