전이 학습 시작점
이 연습에서는 사전 학습된 벡터를 모델의 시작점으로 사용할 때의 이점을 살펴봅니다.
두 에포크로 학습된 두 모델의 정확도를 비교할 거예요. 두 모델의 아키텍처는 동일합니다. 임베딩 레이어 하나, 128 유닛의 LSTM 레이어 하나, 그리고 샘플 데이터의 클래스 수에 해당하는 5 유닛의 출력 레이어로 구성됩니다. 차이점은 한 모델은 임베딩 레이어에 사전 학습된 벡터(전이 학습)를 사용하고, 다른 모델은 사용하지 않는다는 점입니다.
사용한 사전 학습 벡터는 200차원의 GloVE입니다. 두 모델의 검증 세트에 대한 학습 정확도 히스토리는 각각 history_no_emb와 history_emb 변수에 제공됩니다.
이 연습은 강의의 일부입니다
Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)
연습 안내
- 모듈
matplotlib.pyplot을plt로 임포트하세요. - 임베딩을 사용하지 않은 모델의 정확도 목록을 플롯에 추가하세요.
- 임베딩을 사용한 모델의 정확도 목록을 플롯에 추가하세요.
.show()메서드를 사용해 플롯을 화면에 표시하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Import plotting package
import matplotlib.____ as ____
# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')
# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')
# Display the plot
plt.____