Math library

2016-12-08・machine learning

背景

在接触深度学习框架及上层程序应用，比如自动驾驶的感知模块，经常会遇到向量、矩阵的运算； 这些场景对计算效率 …

Deep learing milestone

2016-12-05・paper

2012-AlexNet

NIPS-Alex Krizhevsky (Geoffrey E. Hinton)

[ImageNet Classification with Deep Convolutional Neural Networks] (https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf)

预处理: Subtracting the mean activity over the training set from each pixel.

2014-VGG

arXiv-K. Simonyan, A. Zisserman

[Very Deep Convolutional Networks for Large-Scale Visual Recognition] (http://www.robots …

Server benchmark

2016-11-16・linux

file max

lsof

lsof 可以查看文件被打开的情况，或者端口-i:port被使用的情况

file descriptor limit for per process

系统设置打开文件的上限, 通过如下命 …

Unsupervised learing with DCGAN

2016-08-26・paper

本文介绍GAN的扩展：使用 Convolution 网络进行非监督式学习，得到图像层级式的特征表示以及做一些扩展应用。

Introduction

使用GAN 进行 representation learning …

Generative adversarial network

2016-08-18・paper

Contribution

文章提出了一个新的框架：通过对抗过程（adversarial）来评估生成式模型（generative model）。 框架内容：同时训练两个模型，一个生成式模型 $G$ 拟 …

Deep learning in lua torch

2016-08-17・deep learning

文章介绍从一门新的语言 Lua 学习深度学习 Deep Learning。 整体流程：在一种轻量级的脚本语言 Lua 和高效解释器 LuaJIT 的支持下，实现了 …

Regularization part II

2016-07-28・machine learning

Constrained Optimization

KKT

Under-Constrained Problems

在许多线性模型中，比如线性回归，PCA 依赖于对矩阵 $X^TX$ 求逆。但是，当数据在某些方向确实没有方差时，或者观 …

Regularization part I

2016-07-26・machine learning

机器学习与优化问题的不同在于：机器学习的目标是在测试集上有较小的泛化误差（generalization error），优化问题是将当前问题最优解 …

Tech interview cheetsheet

2016-07-20・programming

Studying for a Tech Interview Sucks, so Here's a Cheat Sheet to Help

This list is meant to be a both a quick guide and reference for further research into these topics. It's basically a summary of that comp sci course you never took or forgot about, so there's no …