生成对抗网络GAN基本入门

1. 生成对抗网络(GAN)基础

1.1 生成对抗网络

1. 本质:图片生成器
2. 组成:

• D,判别网络 G,生成网络, Loss,判别是真实模型的概率:是/否真值

1.2 数学原理

1. 初始状态:生成数据同真实数据差距明显,容易判别
2. 训练过程:对是否真实判断得到的loss引导生成模型更新,差距减少
3. 最终状态:生成数据同真实数据相似,无法识别
   
   假设前提:判别模型D,生成模型G具有学习能力,能够收敛
   

1.3 简单模型

• G:relu+sigmiod nn D:maxout

1.4 生成对抗网络总结(优缺点)

1. 优点:

• 不需要大量label数据,loss来源D判定
• 产生大量生成数据用于训练,接近无监督学习
• 可以与深度神经网络结合

2. 缺点

• 数据直接生成,没有推导过程
• 生成器,判别器需要配合共同训练难度较大
• 容易出现训练失败

2. 深度GAN-DCGAN

2.1 DCGAN(Deep Convolutional GAN)

1. 卷积神经网络 + GAN
2. 变化:生成器G,判别器D (cony feat > 1)
3. DCGAN结构细节
   • 没有pooling,stride conv/deconv
   • 运用batchnorm
   • 不要FC
   • 非线性激励ReLU(G),LeakyReLU(D)

2.2 DCGAN模型研究

1. D用作特征提取工具
2. 用ImageNet数据训练D,G,高效特征表达
3. 特征分析:改变部分噪声参数值

2.3 特征研究

• 向量运算
• 噪声输入运算,生成不同图片
  

2.4 DCGAN总结

1. GAN同深度CNN网络结合
2. 噪声输入有着重要作用,可以实现有意义运算
3. 对输入信号实际意义可以有更深研究,定性输出有可能

3. 条件GAN

3.1 cGAN

• 用一些信息对GAN的生成图片进行范围约束信息的类型:文字 图片
• 训练过程输入:随机信息+约束信息特征
  

3.2 约束- 文字约束

• 文字+位置约束 key points condition
  

3.3 约束条件是图片 - 生成相关图片

• 应用 图片分割,轮廓生成 热图生成 图片补全 高精度生成
• D: patchGAN
• 图片整体优化会造成

4. InfoGAN

• DCGAN中,随机参数Z的值有一定实际意义,如果有test label
  反池化,反卷积结构(deconv)

4.1 infoGAN模型结构

• Z分为两部分,c和z
• c代表数据分布某种物理意义,z随机信号

5. Wasserstein GAN

6. 实例:图片生成器