it21-Recurrent-Neural-Network

인공지능하면 떠오르는 것들.
얼굴인식, 자연어처리,
경향이 변하고 있다. 머신 러닝
일상의 일을 처리할 수 있는 힘이 생겼다.
Seq2Seq
번역
RNN
번역 잘 됨. 작곡, 소설, Image to Caption

End to End learning
하나의 프레임, 일상의 문제를 보면, 문제풀이 패턴이 보인다. 머신러닝을 통해 풀 수 있다.

사람은 문제를 정의하고 기계가 문제를 풀도록!

Sequence 2 Sequence Learning

기억: 과거의 어떤 것이 현재에 영향을 미치는 것.

다음행위에 영향을 미친다. 시간축 위에 살고 있기 때문에
RNN은 기억과 연관이 있다.

Neural Network + Memory = Recurrent Neural Network
튜링 머신/ 기억을 할 수 있는 파워

Feed forward network

멀리 있어서, 중요한 정보가 사라진다. Vanishing Gradient

LSTM: 단위 네트워크
게이트 키핑 컨셉
word2bag

Sequence Encoding