Adversarial Latent Autoencoders

Stanislav Pidhorskyi Donald A. Adjeroh Gianfranco Doretto
Lane Department of Computer Science and Electrical Engineering
GAN의 그림은 매우 아름답지만 화면을 제어할 수 없다.AE계는 화면을 제어할 수 있지만 화면이 망가질 수 있다는 게 예전의 문제로, AE와 GAN의 장점으로 잘 처리됐다.확실히 그것은 획기적인 아름다운 그림처럼 보인다.

개요

ALAE-Adversarial Latent Autoencorder

제시

간단한 MPL을 Enceoder Decorder와 StyleGAN을 사용하는 Generator에 사용하는 두 가지 방안 제안

latent code disentangle 가능

확인

1024x1024에 예쁜 그림이 나왔어요.

전주

일반적인 VAE에서는 숨겨진 변수 공간이 고정된 사전 확률 분포에 가깝다.
한편, GAN의 연구는 입력에서 충분히 멀리 떨어진 중간층이 잘 disentangle되었다는 것을 증명했다.
A) 데이터에서 숨겨진 공간의 분포를 배워서 disentangle를 할 수 있다.
B) 출력 분포를adversarial에 훈련한다.
C) AE 상호 혜택 유지
C의 뜻은 모르지만 x->z->x가 성립한다는 뜻인 것 같아요.

수법

하는 일은 의외로 간단하고 훈련은 기본적으로 GAN에서 진행되며 그때 사용했던 인코더와 디코더를 사용하여 이미지를 재구성하는 등이다.
그림의 맨 위에 있는 F->w->G가 GAN에서 말한 생성 네트워크.오른쪽 E->D 섹션은 Discriminator 네트워크에 해당합니다.요점
- 생성 네트워크, Discriminator 네트워크를 각각 두 부분으로 나누고 그 중 일부는 인코더(E), 디코더(G)로 사용한다.
-F와 G 사이의 w와 E와 D 사이의 관계는 Representation에 해당하며 이 두 가지를 동일하게 하기 위해 최적화되었다.

평점

7.1 평가에서는 MNIST를 1차원 배열로 설정한 장치를 활용한다.CNN이 아니라 MLP야.

롱피처-1024비트, E, G의 중간층

short feature-50bit W의 공간

dw, sw는 상관없는 것 같아요.

배운 것에 대해 간단한 유형 식별을 간단하게 배울 수 있는지 관찰한다.disentangle가 있다면 간단하게 식별할 수 있을 텐데Dute입니다.혹은 단순 식별이 가능하다면 사실이지만 단순 식별이 가능하다고 해서 식별이 가능한 것은 아니다.

선형 SVM의 결과와 1NN의 결과를 비교합니다.선형 SVM은 disentangle이 없으면 인식할 수 없다고 합니다.선형 분리의 가능성은 달라야 한다.성능이 많이 떨어지지 않은 두 ALAE는 disengangle을 주장합니다.

x에서 x로의 재구성은 다른 것으로 보인다.이것은 어떤 의미에서 당연한 것이다. 단지 z층의 재구성 손실을 최소화하는 것이지 x층이 아니다.이렇게 생각하면 이 재구성은 오히려 대단하다.

7.2 StyleAL AE와 StyleGAN을 비교합니다.

https://arxiv.org/abs/1812.04948 StyleGAN의 논문에서 제시한 PPL Perceptual path length로 비교