Deep Learning with Sequence Data and text (순차적 데이터와 텍스트의 딥러닝 PyTorch) (12)

Understanding how RNN works with an example(1/2)

RNN 내부에서 어떤 일이 발생하는지 탐험 해봅시다.
RNN모델의 입력으로 Thor 리뷰를 생각해봅시다. 예제 텍스트는 "the action scenes were top notch in this movie..." 입니다. 첫번째 단어인 the 부터 통과해서 시작합니다. RNN 모델은 State Vector, Output Vector를 생성합니다.  State vector는 그것이 다음 단어 진행시 모델로 통과 되어 새로운 state vector를 생성 시킵니다. 우리는 단지 마지막 순서 동안 생성된 모델의 Output을 고려합니다. 다음 그림이 요약된 내용입니다.

아래 코드는 위의 이미지 내용을 코드로 구현한 내용의 일부입니다. RNN을 블랙박스를 보고 작성한 간단한 코드입니다.

rnn = RNN(input_size, hidden_size, output_size)
for i in range(len(Thor_review)):
    output, hidden = rnn(thor_review[i], hidden)

위 코드에서 hidden 변수는 state vector를 표현하고 때때로 hidden state로 불립니다. 다음은 RNN 구현 코드를 살펴보고 RNN내부에 어떤 일이 발생하는지 알아보도록 하겠습니다.