시작하기

오토 엔코더의 인기가 떨어지고 있다! !
그래서
오토 엔코더를 사용하여 독자적인 신경망을 만들고 싶습니다.
생각해 낸 것을 씁니다! !
음, 옛날부터 알려주세요 ...

　설명

우선, 오토 엔코더를 1개 준비합니다. (^^♪
그림이 나쁘다고! ! (센스가 없구나~~( ´∀｀ ))
그런 것은 아무래도 좋다! ! ! !
다음에 또 하나 준비합니다. (^^♪

시계열도 붙여 갑니다.
숫자가 젊을수록 최근입니다.
시계열마다 오토엔코더를 하는 것은 처리적으로 어렵다.
그래서 과거의 오토엔코더를 전이 학습해 나가려고 생각했습니다.

그때 중요한 것은
과거의 자동 엔코더에 계산한 데이터를 그대로 넣는 것
현재의 오토엔코더는 과거의 오토엔코더의 가중치 w를 변경할 수 없다(단, 영향으로서 1개 밖에 없는 레이어에 현재의 오토엔코더의 레이어의 값에 가중치 w를 부여한 값을 더할 수 있다)
과거의 자동 인코더는 영향을 기록하고 모든 것을 계산합니다.
과거 현재 관계없이 영향 자체가 주어지지 않은 오토엔코더는 계산하지
그리고 현재의 영향, 가중치 w 모두가 0에 가까워지도록 한다
입니다. (캐릭터 붕괴 중)
그렇게 하면 가능한 한 0으로 했을 때

5와 9는 1과 10의 범위에서 관계를 가지고 있습니다.
또한 유사한 오토 엔코더의 종류 분포라면 오토 엔코더를하지 않아도
영향을 조금 익숙한 것에 부여하는 것만으로 데이터를 재현 할 수 있으므로 다음과 같습니다.
오토엔코더를 물건의 식별자로 꼽을 수 있다고 생각합니다.

끝에

수학 공식을 쓰지 않았기 때문에
다음에 게시할 때는 흔히 그림 없이 씁니다.
잘 모르는
토카
수식으로보고 싶습니다.
라고 생각한 사람은 재고하십시오.
코멘트에 불평해도 괜찮아요.