1. 학습
    2. /
  2. 강의
    3. /
  3. Keras로 시작하는 딥 러닝
Connected

연습 문제

LSTM 모델 만들기

이미 텍스트 시퀀스를 준비해 두셨습니다. 이제 LSTM 모델을 만들어 볼까요?

각 시퀀스는 단어 4개로 구성되며, 모델은 각 시퀀스의 앞 3개 단어를 입력으로 받아 4번째 단어를 예측하도록 학습합니다. 우선 단어를 의미 있는 벡터로 바꾸도록 학습하는 Embedding 레이어를 사용합니다. 이렇게 얻은 벡터는 간단한 LSTM 레이어로 전달됩니다. 출력은 어휘 사전에 있는 단어 수만큼의 뉴런을 가진 Dense 레이어이고, 활성화 함수는 softmax입니다. 모든 가능한 단어 중에서 다음 단어의 확률이 가장 높은 것을 선택하기 위함입니다.

어휘 사전의 크기(고유 단어 수)는 vocab_size에 저장되어 있습니다.

지침

100 XP
  • tensorflow.keras의 layers에서 Embedding, LSTM, Dense 레이어를 임포트하세요.
  • 단어를 길이 8의 벡터로 변환하고 길이 3의 시퀀스를 입력으로 받는, 어휘 사전 크기의 Embedding() 레이어를 추가하세요.
  • 32개 뉴런의 LSTM() 레이어를 추가하세요.
  • 32개 뉴런의 은닉 Dense() 레이어와, softmax를 사용하는 vocab_size개 뉴런의 출력 레이어를 추가하세요.