Deep Convolutional Generative Adversarial Networks (DCGAN)

DCGAN

GAN(Generative Adversarial Networks)은 Generator와 Discriminator 2개의 모델을 사용하여 실제 데이터와 비슷한 데이터를 생성하는 생성 모델이다.

Random 한 Noise vector를 input으로 사용하는 Generator는 실제 데이터와 같은 shape의 데이터를 output으로 한다. Discriminator는 실제 데이터와, Generator가 생성한 데이터를 구별해내는 모델로 Binary Classification 모델이다.

DCGAN은 Dense Net이 아닌 Convolutional NN를 사용하는 모델이다.

 

DCGAN structure

DCGAN structure 

Generator는 위와 같은 구조로 위의 예시는 100d의 noise vector는 Transposed Convolution layer에 의해 upsampling 되어 실제 데이터와 같은 크기의 이미지인 G(z)가 된다. 

논문에 의하면 Batch Normalization을 Generator와 Discriminator에서 사용하면 더 좋은 결과가 나온다.

 

Discriminator는 단순한 Binary Classification을 수행하는 모델로 Generator가 생성한 이미지의 target 값은 0, 실제 이미지의 target 값은 1로 학습이 이루어진다.

 

DCGAN mechanism

위와 같이 학습이 시작되면 Generator는 최대한 자신이 생성해낸 결과물을 Discriminator가 실제 이미지로 판별하도록 Weights가 update 된다.

Discriminator는 점점 정교 해지는 Generator의 생성물을 실제 이미지와 구분하도록 더 정밀한 판별이 가능한 모델이 되어간다.

CelebA DCGAN

CelebA 데이터셋을 사용하여 학습한 Generator의 생성 이미지.

64x64로 작은 크기지만 어느 정도 주어진 데이터셋인 사람 얼굴과 매우 비슷한 이미지를 생성해 내는 것을 볼 수 있다.

 

interpolate noise vector

위는 0~9를 만드는 noise vector와 3을 만드는 noise vector 사이의 noise vector를 Generator의 input으로 사용한 결과다.

조금씩 3으로 생성된 이미지가 변하는 것을 볼 수 있다.

 

학습과정에 따른 output은 README에 기록하였다 github.com/hectic97/DCGAN-pytorch

hectic97/DCGAN-pytorch

Reference

[1] Alec Radford & Luke Metz, Soumith Chintala.(2016). 'Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks' arXiv:1511.06434v2
[2] Ian J. Goodfellow et al. (2014).'Generative Adversarial Networks' arXiv:1406.2661v1
[3] Martin Arjovsky et al. (2017). 'Wasserstein GAN' arXiv:1701.07875