rnn

[인공지능] Recurrent Neural Network(RNN)

1. RNN의 등장 배경 a. Feedforward 신경망의 문제점 Feedforward 신경망은 정보의 흐름이 단방향이다. Feedforward는 인풋레이어에서 아웃풋 레이어 까지 여러개의 퍼셉트론 층을 거치며 순차적으로 정보가 전달되는 구조로, 구성이 단순하여 이해하기 쉽고 많은 문제에 이용할 수 있다. 하지만 이러한 Feedforward 신경망은 시계열 데이터에서의 패턴을 충분히 학습 할 수 었다는 치명적인 단점을 가지고 있다. b. 순환하는 신경망 RNN의 특징은 순환하는 경로가 있다는 것이다. 데이터는 끊임없이 순환 경로를 따라 순환할 수 있으며, 이로 인해 과거의 정보를 기억하는 동시에 최신 데이터로 갱신될 수 있다. 말로만 하면 어려우니 위의 그림을 보자. t초 일 때의 인풋인 $X_t$는 ..