继续之前的:
- 《深度学习知识卡片:深度学习基本概念》
- 《深度学习知识卡片:Logistic 回归》
- 《深度学习知识卡片:浅层网络的特点》
- 《深度学习知识卡片:深度神经网络的特点》
- 《深度学习知识卡片:偏差与方差》
- 《深度学习知识卡片:正则化》
- 《深度学习知识卡片:最优化训练》
- 《深度学习知识卡片:最优化算法》
- 《深度学习知识卡片:超参数调优》
- 《深度学习知识卡片:结构化机器学习过程》
- 《深度学习知识卡片:误差分析》
- 《深度学习知识卡片:训练集、开发集与测试集》
- 《深度学习知识卡片:学习方法扩展》
- 《深度学习知识卡片:卷积神经网络基础》
- 《深度学习知识卡片:卷积运算的主要参数》
- 《深度学习知识卡片:深度卷积神经网络架构》
- 《深度学习知识卡片:经典卷积神经网络》

- ResNet:引入残差连接,缓解梯度消失和梯度爆炸问题,可以训练非常深的网络。
- Network in Network:使用 1×1 卷积核,可以将卷积运算变成类似于全连接网络的形式,还可以减少特征图的通道数,从而减少参数数量。
- Inception Network:也就是我们熟知的 Google Net 使用了多种尺寸卷积核的并行操作,再堆叠成多个通道,可以捕捉多种规模的特征,但缺点是计算量太大,可以通过 1×1 卷积减少通道数。