Batch Normalization
Abstract
在训练网络时,前一层的参数变化会使得后一层输入的分布发生变化,导致训练过程复杂化。 这就要求设置更低的学习 …
在训练网络时,前一层的参数变化会使得后一层输入的分布发生变化,导致训练过程复杂化。 这就要求设置更低的学习 …
NIPS-Alex Krizhevsky (Geoffrey E. Hinton)
[ImageNet Classification with Deep Convolutional Neural Networks] (https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf)
预处理: Subtracting the mean activity over the training set from each pixel.
arXiv-K. Simonyan, A. Zisserman
[Very Deep Convolutional Networks for Large-Scale Visual Recognition] (http://www.robots …
本文介绍GAN的扩展:使用 Convolution 网络进行非监督式学习,得到图像层级式的特征表示以及做一些扩展应用。
使用GAN 进行 representation learning …
文章提出了一个新的框架:通过对抗过程(adversarial)来评估生成式模型(generative model)。 框架内容:同时训练两个模型,一个生成式模型 $G$ 拟 …
Image Caption
使用残差(Residual)学习框架,简化非常深的网络的优化过程。
显式地将网络层定义为学习相对于输入的残差函数,而不 …
文章介绍如何训练 end-to-end (端到端, 输入不需要处理, 输出即为所得), pixels-to-pixels (像素级的映射) 的卷积网络用于 semantic segmentation (语义分割).
key insignt: 构建 fully …