1. VQ-VAE의 등장: “강한 디코더”와 “표현 학습”의 충돌VAE 계열 생성 모델에서의 자주 언급되는 문제점은 다음과 같다. 디코더를 PixelCNN이나 WaveNet처럼 매우 강력한 autoregressive 모델로 만들수록, 인코더가 열심히 정보를 latent에 담지 않아도 디코더가 알아서 복원을 잘 해버리는 경우가 생긴다는 점이다. 흔히 posterior collapse라고 부르는 현상이다. 요약하면 “latent가 무시되고, 의미 있는 표현을 못 배운다”는 맥락이다. VQ-VAE는 이 문제를 구조적으로 회피하고자 한다. 핵심 아이디어는 간단하다.latent를 연속 가우시안이 아니라 이산(discrete) 심볼로 만든다.그 이산화는 “가장 가까운 코드북 벡터로 치환”하는 Vector Quan..
