Batch Normalization

2016-12-18・paper

Abstract

在训练网络时,前一层的参数变化会使得后一层输入的分布发生变化,导致训练过程复杂化。 这就要求设置更低的学习 …


Deep learing milestone

2016-12-05・paper

2012-AlexNet

NIPS-Alex Krizhevsky (Geoffrey E. Hinton)

[ImageNet Classification with Deep Convolutional Neural Networks] (https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf)

预处理: Subtracting the mean activity over the training set from each pixel.

2014-VGG

arXiv-K. Simonyan, A. Zisserman

[Very Deep Convolutional Networks for Large-Scale Visual Recognition] (http://www.robots …


Unsupervised learing with DCGAN

2016-08-26・paper

本文介绍GAN的扩展:使用 Convolution 网络进行非监督式学习,得到图像层级式的特征表示以及做一些扩展应用。

Introduction

使用GAN 进行 representation learning …


Generative adversarial network

2016-08-18・paper

Contribution

文章提出了一个新的框架:通过对抗过程(adversarial)来评估生成式模型(generative model)。 框架内容:同时训练两个模型,一个生成式模型 $G$ 拟 …



Deep residual learning for image recognition

2016-07-18・paper

目标

使用残差(Residual)学习框架,简化非常深的网络的优化过程。

方法

显式地将网络层定义为学习相对于输入的残差函数,而不 …


Fully convolutional networks for semantic segmentation

2015-06-11・paper

文章介绍如何训练 end-to-end (端到端, 输入不需要处理, 输出即为所得), pixels-to-pixels (像素级的映射) 的卷积网络用于 semantic segmentation (语义分割).

key insignt: 构建 fully …