深度学习知识卡片：循环神经网络应用

继续之前的：

1. 《深度学习知识卡片：深度学习基本概念》
2. 《深度学习知识卡片：Logistic 回归》
3. 《深度学习知识卡片：浅层网络的特点》
4. 《深度学习知识卡片：深度神经网络的特点》
5. 《深度学习知识卡片：偏差与方差》
6. 《深度学习知识卡片：正则化》
7. 《深度学习知识卡片：最优化训练》
8. 《深度学习知识卡片：最优化算法》
9. 《深度学习知识卡片：超参数调优》
10. 《深度学习知识卡片：结构化机器学习过程》
11. 《深度学习知识卡片：误差分析》
12. 《深度学习知识卡片：训练集、开发集与测试集》
13. 《深度学习知识卡片：学习方法扩展》
14. 《深度学习知识卡片：卷积神经网络基础》
15. 《深度学习知识卡片：卷积运算的主要参数》
16. 《深度学习知识卡片：深度卷积神经网络架构》
17. 《深度学习知识卡片：经典卷积神经网络》
18. 《深度学习知识卡片：特殊卷积神经网络》
19. 《深度学习知识卡片：实践建议》
20. 《深度学习知识卡片：目标检测算法》
21. 《深度学习知识卡片：人脸识别》
22. 《深度学习知识卡片：风格迁移》
23. 《深度学习知识卡片：循环神经网络基础》

循环神经网络在语言建模等序列问题上有非常强大的力量，但同时它也存在很严重的梯度消失问题。因此像 LSTM 和 GRU 等基于门控的 RNN 有非常大的潜力，它们使用门控机制保留或遗忘前面时间步的信息，并形成记忆以提供给当前的计算过程。