本文首先从 4 个方面（张量、生成模型、序列学习、深度强化学习）追踪深度学习几十年的发展史，然后再介绍主流的 26 个深度学习模型。
1. 深度学习发展史
主要按最早研究出现的时间，从 4 个方面来追踪深度学习的发展史。
1.1 张量
- 1958 年 Frank 提出感知机，但后来被一些学者发现因算力的不足，制约了较大神经网络的计算，导致很长时间发展缓慢。
- Fukushima 在 1979 年左右提出 Neocognitron，感觉这是卷积和池化的雏形。
- Hinton 在 1986 年提出反向传播的思想和多层感知机（BPNN/MLP），有非常大的意义，对未来几十年（可[……]