Word2Vec

이번 연습 문제에서는 Keras를 사용해 Word2Vec 모델을 만들어 볼 거예요.

모델 사전 학습에 사용된 코퍼스는 The Big Bang Theory TV 쇼의 전체 대본으로, 문장 단위로 분할되어 있어요. 변수 bigbang에 제공됩니다.

코퍼스의 텍스트는 모두 소문자로 변환되었고, 모든 단어가 토큰화되었어요. 결과는 tokenized_corpus 변수에 저장되어 있어요.

Word2Vec 모델은 컨텍스트 창 크기를 10단어(중심 단어 앞 5개, 뒤 5개)로 하고, 3회 미만 등장한 단어는 제거했으며, 50차원의 skip-gram 방법으로 사전 학습되었습니다. 모델은 bigbang_word2vec.model 파일로 저장되어 있어요.

Word2Vec 클래스는 이미 gensim.models.word2vec에서 로드되어 있어요.

이 연습은 강의의 일부입니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

연습 안내

사전 학습된 Word2Vec 모델을 로드하세요.
단어 "bazinga", "penny", "universe", "spock", "brain"을 해당 순서대로 담은 list를 만들어 변수 words_of_interest에 저장하세요.
관심 단어 각각에 대해 wv 속성의 .most_similar() 메서드를 사용해 상위 5개 유사 단어를 찾아, 사전 형태로 top5_similar_words에 추가하세요.
각 관심 단어에 대해 찾은 상위 5개 단어를 출력하세요.

실습형 인터랙티브 연습

이 예제를 이 샘플 코드를 완성하여 풀어보세요.

# Word2Vec model
w2v_model = Word2Vec.load(____)

# Selected words to check similarities
words_of_interest = ____

# Compute top 5 similar words for each of the words of interest
top5_similar_words = []
for word in words_of_interest:
    top5_similar_words.append(
      {word: [item[0] for item in w2v_model.wv.____([word], topn=5)]}
    )

# Print the similar words
____

코드 편집 및 실행

이 연습은 강의의 일부입니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

SkillTag.level.advancedSkillTag.label

4.8+

무료로 강의 시작하기

이 챕터에서는 순환 신경망(RNN)의 기초를 학습합니다. 사전 지식부터 시작해, 네트워크에서 정보가 흐르는 방식과 감성 분류 과제에 Keras로 이러한 모델을 구현하는 방법까지 살펴봅니다.

Exercise 1: 강의 소개 Exercise 2: RNN과 ANN의 매개변수 수 비교 Exercise 3: 감성 분석 Exercise 4: 시퀀스 투 시퀀스 모델 Exercise 5: 언어 모델 소개 Exercise 6: 텍스트 데이터에 익숙해지기 Exercise 7: 모델 입력을 위한 텍스트 데이터 준비 Exercise 8: 새 텍스트 변환하기 Exercise 9: Keras에서 RNN 소개 Exercise 10: Keras 모델 Exercise 11: Keras 전처리 Exercise 12: 첫 번째 RNN 모델 만들기

RNN에서 자주 발생하는 기울기 소실과 폭주 문제를 배우고, 이를 GRU와 LSTM 셀로 어떻게 다루는지 알아봅니다. 또한 언어 모델을 위한 임베딩 레이어를 만들고, 감성 분류 과제를 다시 다뤄 보겠습니다.

Exercise 1: 기울기 소실과 폭주 Exercise 2: Exploding gradient 문제 Exercise 3: 기울기 소실 문제 Exercise 4: GRU와 LSTM 셀 Exercise 5: GRU 셀은 simpleRNN보다 더 좋아요 Exercise 6: RNN 레이어 쌓기 Exercise 7: Embedding 레이어 Exercise 8: 파라미터 수 비교 Exercise 9: 전이 학습 Exercise 10: 임베딩으로 성능 향상하기 Exercise 11: 감성 분류 다시 살펴보기 Exercise 12: 더 나은 감정 분류 Exercise 13: CNN 레이어 사용하기

이어서, 본 챕터에서는 다중 클래스 분류 과제를 위한 데이터 준비 방법과 다중 클래스 분류와 이진 분류(감성 분석)의 차이를 배웁니다. 마지막으로, Keras로 모델을 구성하고 성능을 측정하는 방법을 학습합니다.

Exercise 1: 데이터 전처리 Exercise 2: 레이블 벡터 준비하기 Exercise 3: 데이터 전처리 Exercise 4: 언어 모델을 위한 전이 학습 Exercise 5: 전이 학습 시작점 Exercise 6: Word2Vec

현재 연습

Exercise 7: 다중 클래스 분류 모델 Exercise 8: 20 News Groups 데이터셋 탐색하기 Exercise 9: 뉴스 기사 분류하기 Exercise 10: 모델 성능 평가 Exercise 11: Precision-Recall 트레이드오프 Exercise 12: Precision(정밀도)일까요, Recall(재현율)일까요? 그것이 문제입니다 Exercise 13: 다중 클래스 분류의 성능

이 챕터에서는 RNN 모델의 두 가지 응용인 텍스트 생성과 신경 기계 번역을 소개합니다. 모델이 필요로 하는 형식에 맞게 텍스트 데이터를 준비하는 방법을 배웁니다. 텍스트 생성 모델은 특정 인물의 말투를 재현하는 데 사용되며, The Big Bang Theory의 Sheldon을 재미있게 모방해 볼 것입니다. 신경 기계 번역은 Google Translate 같은 서비스에서 훨씬 복잡한 모델로 사용됩니다. 이 챕터에서는 짧은 포르투갈어 문장을 영어로 번역하는 모델을 만들어 봅니다.

Exercise 1: 시퀀스 투 시퀀스 모델 Exercise 2: 텍스트 생성 예시 Exercise 3: NMT 예제 Exercise 4: 텍스트 생성 함수 Exercise 5: 다음 문자 예측하기 Exercise 6: 문맥을 반영해 문장 생성하기 Exercise 7: 확률 스케일 바꾸기 Exercise 8: 텍스트 생성 모델 Exercise 9: 문장과 다음 문자 벡터 만들기 Exercise 10: 훈련을 위한 데이터 준비 Exercise 11: 텍스트 생성 모델 만들기 Exercise 12: Neural Machine Translation Exercise 13: 입력 텍스트 준비하기 Exercise 14: 출력 텍스트 준비하기 Exercise 15: 포르투갈어를 영어로 번역하기 Exercise 16: 축하합니다!