배치 크기 바꾸기
모델은 보통 고정된 크기의 배치로 학습해요. 배치 크기가 작을수록 한 에포크당 가중치 업데이트 횟수는 많아지지만, 경사 하강이 더 불안정해질 수 있어요. 특히 배치 크기가 너무 작아 전체 학습 세트를 대표하지 못하면 더 그렇습니다.
이제 간단한 이진 분류 모델이 빨간 점과 파란 점을 구분할 때, 배치 크기에 따라 정확도가 어떻게 달라지는지 살펴보겠습니다.
우선 배치 크기를 1로 설정해, 각 에포크에서 학습 세트의 각 샘플마다 한 번씩 가중치를 업데이트해 보세요. 그다음에는 전체 데이터셋을 한 번에 사용해, 각 에포크마다 한 번만 가중치를 업데이트해 보겠습니다.
이 연습은 강의의 일부입니다
Keras로 시작하는 딥 러닝
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Get a fresh new model with get_model
model = ____
# Train your model for 5 epochs with a batch size of 1
model.fit(X_train, y_train, epochs=____, ____=____)
print("\n The accuracy when using a batch of size 1 is: ",
model.evaluate(X_test, y_test)[1])