RNN 개념 정리

1. 순환 뉴런과 순환 층

• 순환 뉴런

• 순환 층

• 시간에 따른 네트워크

• 메모리 셀

입력과 출력 시퀀스

• 시퀀스-투-시퀀스

• 시퀀스-투-벡터

• 벡터-투-시퀀스

• 시퀀스-투-벡터-벡터-투-시퀀스 (인코더 디코더)

2. RNN을 훈련하는 방법

• BPTT ( Back propagation Through Time)

3. 시계열 데이터 학습 후 추론 코드

심층 RNN 사용

4. 긴 입력데이터 (시퀀스) 다루기

긴 입력데이터를 다룰 경우 문제점

• 그레이디언트 폭주 문제
• 단기기억 문제 -> LSTM

5. LSTM

핍홉 연결 LSTM

GRU LSTM