生成模型(GenerativeModel)是一种可以通过学习训练样本来产生更多类似样本的模型。在所有生成模型当中,最具潜力的是 生成对抗网络 (Generative Adversarial Networks, GANs)。GANs 是非监督 机器学习 的一种,它的运作方式可被看做是两个神经网络相互竞争的零和游戏(zero-sum game)。
2014年,Ian Goodfellow等人在《 GenerativeAdversarial Nets 》一文中首次提出了GANs,标志着GANs的诞生。
原文链接:
PPT链接:
源码链接:
视频链接:
本文总结了一系列关于GANs的前沿工作进展
最新研究论文
基于深度 卷积 生成对抗网络的无监督学习(Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks (DCGANs))2015
原文链接:
对抗实例的解释和利用(Explaining and Harnessing Adversarial Examples)2014
原文链接:
基于深度生成模型的半监督学习( Semi-Supervised Learning with Deep Generative Models )2014
原文链接:
基于拉普拉斯金字塔生成式对抗网络的深度图像生成模型(Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks)2015
原文链接:
训练GANs的一些技巧(Improved Techniques for Training GANs)2016
原文链接:
条件生成对抗网络(Conditional Generative Adversarial Nets)2014
原文链接:
生成式矩匹配网络(Generative Moment Matching Networks)2015
原文链接:
超越均方误差的深度多尺度视频预测(Deep multi-scale video prediction beyond mean square error)2015
原文链接:
通过学习相似性度量的超像素 自编码 (Autoencoding beyond pixels using a learned similarity metric)2015
原文链接:
对抗自编码(Adversarial Autoencoders)2015
原文链接:
InfoGAN:基于信息最大化GANs的可解释表达学习(InfoGAN:Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets)2016
原文链接:
上下文像素编码:通过修复进行特征学习(Context Encoders: Feature Learning by Inpainting)2016
原文链接: /Pathak_Context_Encoders_Feature_CVPR_2016_paper.pdf
生成对抗网络实现文本合成图像(Generative Adversarial Text to Image Synthesis)2016
原文链接:
基于像素卷积神经网络的条件生成图片(Conditional Image Generation with PixelCNN Decoders)2015
原文链接:
对抗特征学习(Adversarial Feature Learning)2016
原文链接:
结合逆自回归流的变分推理(Improving Variational Inference with Inverse Autoregressive Flow )2016
原文链接:
深度学习系统对抗样本黑盒攻击(Practical Black-Box Attacks against Deep Learning Systems using Adversarial Examples)2016
原文 链接:
参加,推断,重复:基于生成模型的快速场景理解(Attend, infer, repeat: Fast scene understanding with generative models)2016
原文链接:
f-GAN: 使用变分散度最小化训练生成神经采样器(f- GAN : Training Generative Neural Samplers using Variational Divergence Minimization )2016
原文链接:
在自然图像流形上的生成视觉操作(Generative Visual Manipulation on the Natural Image Manifold)2016
原文链接:
通过平均差异最大优化训练生成神经网络(Training generative neural networks via Maximum Mean Discrepancy optimization)2015
原文链接:
对抗性推断学习(Adversarially Learned Inference)2016
原文链接:
基于循环对抗网络的图像生成(Generating images with recurrent adversarial networks)2016
原文链接:
生成对抗模仿学习(Generative Adversarial Imitation Learning)2016
原文链接:
基于3D生成对抗模型学习物体形状的概率隐空间(Learning a Probabilistic Latent Space of Object Shapes via 3D Generative-Adversarial Modeling)2016
原文链接:
学习画画(Learning What and Where to Draw)2016
原文链接:
基于辅助分类器GANs的条件图像合成(Conditional Image Synthesis with Auxiliary Classifier GANs)2016
原文链接:
隐生成模型的学习(Learning in Implicit Generative Models)2016
原文:
VIME: 变分信息最大化探索(VIME: Variational Information Maximizing Exploration)2016
原文链接:
生成对抗网络的展开(Unrolled Generative Adversarial Networks)2016
原文链接:
训练生成对抗网络的基本方法(Towards Principled Methods for Training Generative Adversarial Networks)2017
原文链接:
基于内省对抗网络的神经图像编辑(Neural Photo Editing with Introspective Adversarial Networks)2016
原文链接:
基于解码器的生成模型的定量分析(On the Quantitative Analysis of Decoder-Based Generative Models )2016
原文链接:
结合生成对抗网络和Actor-Critic 方法(Connecting Generative Adversarial Networks and Actor-Critic Methods)2016
原文链接:
通过对抗网络使用模拟和非监督图像训练( Learning from Simulated and Unsupervised Images through Adversarial Training)2016
原文链接:
基于上下文RNN-GANs的抽象推理图的生成(Contextual RNN-GANs for Abstract Reasoning Diagram Generation)2016
原文链接:
生成多对抗网络(Generative Multi-Adversarial Networks)2016
原文链接:
生成对抗网络组合(Ensembles of Generative Adversarial Network)2016
原文链接:
改进生成器目标的GANs(Improved generator objectives for GANs) 2016
原文链接:
生成对抗模型的隐向量精准修复(Precise Recovery of Latent Vectors from Generative Adversarial Networks)2017
原文链接:
生成混合模型(Generative Mixture of Networks)2017
原文链接:
记忆生成时空模型(Generative Temporal Models with Memory)2017
原文链接:
停止GAN暴力:生成性非对抗模型(Stopping GAN Violence: Generative Unadversarial Networks)2017
原文链接:
理论学习
1.训练GANs的技巧,
参见链接:
2.Energy-Based GANs 以及Yann Le Cun 的相关研究
参见链接:
3.模式正则化GAN
参见链接:
报告
1.Ian Goodfellow的GANs报告
参见链 接:
2. Russ Salakhutdinov的深度生成模型
参见链接: ~rsalakhu/talk_Montreal_2016_Salakhutdinov.pdf
四、课程/ 教程
1.NIPS 2016教程:生成对抗网络
参见链接:
2.训练GANs的技巧和窍门
参见链接:
3.OpenAI生成模型
参见链接:
4.用 Keras 实现MNIST生成对抗模型
参见链接:
5.用深度学习 TensorFlow 实现图像修复
参见链接:
Github 资源以及模型
1.深度卷积生成对抗模型(DCGAN)
参见链接:
2.TensorFlow实现深度卷积生成对抗模型(DCGAN)
参见链接:
3.Torch实现深度卷积生成对抗模型(DCGAN)
参见链接:
4.Keras实现深度卷积生成对抗模型(DCGAN)
参见链接:
5.使用神经网络生成自然图像( Facebook 的Eyescream项目)
参见链接:
6.对抗自编码(AdversarialAutoEncoder)
参见链接:
7.利用ThoughtVectors 实现文本到图像的合成
参见链接:
8.对抗样本生成器(Adversarialexample generator)
参见链接:
9.深度生成模型的半监督学习
参见链接:
10.GANs的训练方法
参见链接:
11. 生成式矩匹配网络(Generative Moment Matching Networks, GMMNs)
参见链接:
12. 对抗视频生成
参见链接:
13. 基于条件对抗网络的图像到图像翻译(pix2pix)
参见链接:
14. 对抗机器学习库Cleverhans,
参见链接:
框架以及学习库(根据GitHub的星级排序)
1. 谷歌 的TensorFlow [C++ and CUDA]
主页链接:
Github链接:
2. Berkeley Vision and LearningCenter (BVLC) 的Caffe [C++]
主页链接:
Github链接:
安装指南:
3. François Chollet的Keras [ Python ]
主页链接:
Github链接:
4. Microsoft Cognitive Toolkit -CNTK [C++]
主页链接:
Github链接:
5. Amazon 的MXNet [C++]
主页链接:
Github链接:
6. Collobert, Kavukcuoglu &Clement Farabet的Torch,被Facebook广泛采用[Lua]
主页链接:
Github链接:
Andrej Karpathy 的Convnetjs [ Java Script]
主页链接:
Github链接:
Université de Montréal的 Theano [Python]
主页链接:
Github链接:
startup Skymind 的Deeplearning4j [Java]
主页链接:
Github链接:
Baidu 的Paddle[C++]
主页链接:
Github链接:
Amazon 的Deep Scalable Sparse Tensor Network Engine (DSSTNE) [C++]
Github链接:
Nervana Systems 的Neon [Python & Sass]
主页链接:
Github链接:
Chainer [Python]
主页链接:
Github链接:
h2o [Java]
主页链接:
Github链接:
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA) 的Brainstorm [Python]
Github链接:
Andrea Vedaldi 的Matconvnet by [Matlab]
主页链接:
Github链接:
重要链接
更多细节请参考原文链接:
另一篇GAN的各种变体:
后记
欢迎订阅关注,持续为你带来行业科技新知与科技干货。