출력 텍스트 준비하기

이 연습 문제에서는 번역 모델에 사용할 출력 텍스트를 준비해 보겠습니다. 텍스트를 인덱스 시퀀스로 변환하는 것 외에도, 각 인덱스를 원-핫 인코딩해야 해요.

영어 텍스트는 en_sentences 변수에, 학습된 토크나이저는 output_tokenizer 변수에, 영어 어휘 크기는 en_vocab_size 변수에 로드되어 있습니다.

또한 출력 언어를 변환하는 초기 단계(텍스트를 인덱스 시퀀스로 변환)를 수행하는 함수가 이미 만들어져 있어요. 이 함수는 transform_text_to_sequences() 이름으로 환경에 로드되어 있으며, 두 개의 매개변수를 받습니다. sentences는 영어 문장 리스트를, tokenizer는 keras.preprocessing.text 모듈의 학습된 Tokenizer 객체를 기대합니다.

numpy는 np로 임포트되어 있습니다.

이 연습은 강의의 일부입니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

연습 안내

transform_text_to_sequences() 함수에 en_sentences와 output_tokenizer 변수를 전달해 Y 변수를 초기화하세요.
to_categorical() 함수를 사용해 문장을 원-핫 인코딩하세요. 클래스 수로는 en_vocab_size 변수를 사용합니다.
임시 리스트를 numpy 배열로 변환한 뒤, 형태를 (num_sentences, sentences_len, en_vocab_size)가 되도록 재구성하세요.
원본 텍스트와 변환된 결과를 출력하세요.

실습형 인터랙티브 연습

이 예제를 이 샘플 코드를 완성하여 풀어보세요.

# Initialize the variable
Y = transform_text_to_sequences(____, ____)

# Temporary list
ylist = list()
for sequence in Y:
  	# One-hot encode sentence and append to list
    ylist.append(____(sequence, num_classes=____))

# Update the variable
Y = np.array(ylist).reshape(____, Y.shape[1], en_vocab_size)

# Print the raw sentence and its transformed version
print("Raw sentence: {0}\nTransformed: {1}".format(____, Y[0]))

코드 편집 및 실행

이 연습은 강의의 일부입니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

SkillTag.level.advancedSkillTag.label

4.8+

무료로 강의 시작하기

이 챕터에서는 순환 신경망(RNN)의 기초를 학습합니다. 사전 지식부터 시작해, 네트워크에서 정보가 흐르는 방식과 감성 분류 과제에 Keras로 이러한 모델을 구현하는 방법까지 살펴봅니다.

Exercise 1: 강의 소개 Exercise 2: RNN과 ANN의 매개변수 수 비교 Exercise 3: 감성 분석 Exercise 4: 시퀀스 투 시퀀스 모델 Exercise 5: 언어 모델 소개 Exercise 6: 텍스트 데이터에 익숙해지기 Exercise 7: 모델 입력을 위한 텍스트 데이터 준비 Exercise 8: 새 텍스트 변환하기 Exercise 9: Keras에서 RNN 소개 Exercise 10: Keras 모델 Exercise 11: Keras 전처리 Exercise 12: 첫 번째 RNN 모델 만들기

RNN에서 자주 발생하는 기울기 소실과 폭주 문제를 배우고, 이를 GRU와 LSTM 셀로 어떻게 다루는지 알아봅니다. 또한 언어 모델을 위한 임베딩 레이어를 만들고, 감성 분류 과제를 다시 다뤄 보겠습니다.

Exercise 1: 기울기 소실과 폭주 Exercise 2: Exploding gradient 문제 Exercise 3: 기울기 소실 문제 Exercise 4: GRU와 LSTM 셀 Exercise 5: GRU 셀은 simpleRNN보다 더 좋아요 Exercise 6: RNN 레이어 쌓기 Exercise 7: Embedding 레이어 Exercise 8: 파라미터 수 비교 Exercise 9: 전이 학습 Exercise 10: 임베딩으로 성능 향상하기 Exercise 11: 감성 분류 다시 살펴보기 Exercise 12: 더 나은 감정 분류 Exercise 13: CNN 레이어 사용하기

이어서, 본 챕터에서는 다중 클래스 분류 과제를 위한 데이터 준비 방법과 다중 클래스 분류와 이진 분류(감성 분석)의 차이를 배웁니다. 마지막으로, Keras로 모델을 구성하고 성능을 측정하는 방법을 학습합니다.

Exercise 1: 데이터 전처리 Exercise 2: 레이블 벡터 준비하기 Exercise 3: 데이터 전처리 Exercise 4: 언어 모델을 위한 전이 학습 Exercise 5: 전이 학습 시작점 Exercise 6: Word2Vec Exercise 7: 다중 클래스 분류 모델 Exercise 8: 20 News Groups 데이터셋 탐색하기 Exercise 9: 뉴스 기사 분류하기 Exercise 10: 모델 성능 평가 Exercise 11: Precision-Recall 트레이드오프 Exercise 12: Precision(정밀도)일까요, Recall(재현율)일까요? 그것이 문제입니다 Exercise 13: 다중 클래스 분류의 성능

이 챕터에서는 RNN 모델의 두 가지 응용인 텍스트 생성과 신경 기계 번역을 소개합니다. 모델이 필요로 하는 형식에 맞게 텍스트 데이터를 준비하는 방법을 배웁니다. 텍스트 생성 모델은 특정 인물의 말투를 재현하는 데 사용되며, The Big Bang Theory의 Sheldon을 재미있게 모방해 볼 것입니다. 신경 기계 번역은 Google Translate 같은 서비스에서 훨씬 복잡한 모델로 사용됩니다. 이 챕터에서는 짧은 포르투갈어 문장을 영어로 번역하는 모델을 만들어 봅니다.

Exercise 1: 시퀀스 투 시퀀스 모델 Exercise 2: 텍스트 생성 예시 Exercise 3: NMT 예제 Exercise 4: 텍스트 생성 함수 Exercise 5: 다음 문자 예측하기 Exercise 6: 문맥을 반영해 문장 생성하기 Exercise 7: 확률 스케일 바꾸기 Exercise 8: 텍스트 생성 모델 Exercise 9: 문장과 다음 문자 벡터 만들기 Exercise 10: 훈련을 위한 데이터 준비 Exercise 11: 텍스트 생성 모델 만들기 Exercise 12: Neural Machine Translation Exercise 13: 입력 텍스트 준비하기 Exercise 14: 출력 텍스트 준비하기

현재 연습

Exercise 15: 포르투갈어를 영어로 번역하기 Exercise 16: 축하합니다!