활성화 함수 비교하기
활성화 함수를 비교하려면 약간의 코딩이 필요하지만, 충분히 하실 수 있어요!
챕터 2에서 농장 관개 기계를 위해 만들었던 멀티라벨 모델에 다양한 활성화 함수를 적용해 보겠습니다. 함수 get_model('relu')는 이 모델의 사본을 반환하고 은닉층에 'relu' 활성화 함수를 적용해요.
여러 활성화 함수를 순회하면서 각 함수마다 새 모델을 만들고 학습시킬 거예요. history 콜백을 딕셔너리에 저장해 두면, 다음 연습 문제에서 어떤 활성화 함수가 가장 성능이 좋았는지 시각화할 수 있어요!
X_train, y_train, X_test, y_test는 모델을 학습할 때 바로 사용하실 수 있게 준비되어 있어요.
이 연습은 강의의 일부입니다
Keras로 시작하는 딥 러닝
연습 안내
- 활성화 함수 배열을
relu,leaky_relu,sigmoid,tanh로 채우세요. - 각 반복에서 현재 활성화 함수를 매개변수로 전달해
get_model()로 새 모델을 가져오세요. - 학습 데이터와
validation_data를 제공해 모델을 학습하세요.epochs는 20으로,verbose는 0으로 설정하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Activation functions to try
activations = [____, ____, ____, ____]
# Loop over the activation functions
activation_results = {}
for act in activations:
# Get a new model with the current activation
model = ____
# Fit the model and store the history results
h_callback = ____
activation_results[act] = h_callback