VAE의 잠재 공간에 인간의 지식을 도입해 보았다

이 기사는 독자가 VAE에 대한 지식을 가지고 있다고 가정합니다. VAE에 대해서는 이전 기사에서 조금 만졌습니다. 내 홈페이지를 방문하여 확인할 수 있습니다.

VAE는 점 사이의 진공을 채우고 점에서 점으로의 전환을 원활하게했습니다. 예를 들어 아래 그림의 세 번째 줄처럼 3에서 6으로 변경했습니다.



훈련 후 잠재적인 공간 분포는 대략 아래 그림과 같습니다. 편의상 0~3만 출력합니다.



0을 나타내는 진한 파란색과 1을 나타내는 시안이 멀리 떨어져 있음을 알 수 있습니다. 필기 0과 1은 구별하기 쉽기 때문에 그러한 결과를 내는 것은 당연합니다. 하지만 여기에 문제가 생긴다.

예를 들어 3에서 6으로 전환하려면 3, 4, 5, 6과 같이 늘리는 것이 더 자연스러운 방법이 아닌가? 신경망에 잠재 공간의 논리적 연결을 학습시키는 방법이 있습니까? 이것이 오늘의 기사의 주제입니다.

내 대답은 물론입니다. 인접한 숫자(2와 3, 4와 5 등)에 의해 생성되는 벡터의 공간 거리를 줄이면 좋을까요? 그래서 신경망은 데이터세트에 인접한 쌍의 수에 의해 생성된 잠재공간 벡터를 무작위로 샘플링하여 거리를 줄이도록 훈련했다.

훈련 후 결과는 다음과 같습니다.



빨간색과 파란색 색상이 각각 1과 0임을 알 수 있습니다. 거리는 확실히 짧지 만 테스트 결과는 다음과 같습니다.



이전 행의 첫 번째 열과 세 번째 열을 보면 2가 3이 되고 1이 2가 된다는 것을 알 수 있습니다. 이것은 모델이 실제로 약간의 연결을 학습했음을 나타냅니다. 세 번째 줄은 3에서 9, 8과 비슷한 것을 통과합니다.

그러나 실험은 어쨌든 성공이라고 말할 수 없습니다. 효과가 보이지 않고, 연구에 사용하는 방법을 모르기 때문에, 이 아이디어를 방치해 둡니다.