오토인코더
- 비지도 학습 모델
- 다차원 데이터를 저차원으로 바꾸고 바꾼 저차원 데이터를 다시 고차원 데이터로 바꾸면서 특징점을 찾아냄
- 출력과 입력의 차원은 같음
오토인코더 구조
- 종류에 따라 간혹 은닉층의 갯수가 입력보다 많아지는 오토 인코더도 있음
종류
디노이징 오토인코더(Denosiong Auto encoder) : 손상이 있는 입력값을 받아도 손상을 제거하고 원본 데이터를 출력값으로 만듦
희소 오토인코더(Sparse Auto encoder) : 은닉층 중 매번 일부 노드만 학습하여 과적합 문제를 해결
VAE(Variational Auto encoder) : 확률분호를 학습함으로서 데이터를 생성
활용 분야
데이터 압축, 저차원화, 배경 잡음 억제등
기타
Param 갯수는 입력쪽과 출력쪽 encoder가 각각 붙은 Layer로 생각하면 됩니다.
일반적으로 "Param = (입력+1) * 출력"이 되며 입력의 +1은 출력단 bias를 고려해서 계산되는 값입니다.
위 그림에서 갯수는 MLP 구조로 생각해서 계산 하면 됩니다.
그리고 각각 Layer의 파라미터를 더해주면 됩니다.
댓글 없음:
댓글 쓰기