深度学习知识卡片:实践建议

继续之前的:

  1. 深度学习知识卡片:深度学习基本概念
  2. 深度学习知识卡片:Logistic 回归
  3. 深度学习知识卡片:浅层网络的特点
  4. 深度学习知识卡片:深度神经网络的特点
  5. 深度学习知识卡片:偏差与方差
  6. 深度学习知识卡片:正则化
  7. 深度学习知识卡片:最优化训练
  8. 深度学习知识卡片:最优化算法
  9. 深度学习知识卡片:超参数调优
  10. 深度学习知识卡片:结构化机器学习过程
  11. 深度学习知识卡片:误差分析
  12. 深度学习知识卡片:训练集、开发集与测试集
  13. 深度学习知识卡片:学习方法扩展
  14. 深度学习知识卡片:卷积神经网络基础
  15. 深度学习知识卡片:卷积运算的主要参数
  16. 深度学习知识卡片:深度卷积神经网络架构
  17. 深度学习知识卡片:经典卷积神经网络
  18. 深度学习知识卡片:特殊卷积神经网络
实践建议
实践建议
  • 使用开源实现:从零开始实现时非常困难的,利用别人的实现可以快速探索更复杂有趣的任务。
  • 数据增强通过对原图像进行镜像、随机裁剪、旋转、颜色变化等操作,增加训练数据量和多样性。
  • 迁移学习针对当前任务的训练数据太少时,可以将充分训练过的模型用少量数据微调获得足够好的性能。
  • 基准测试和竞赛中表现良好的诀窍:使用模型集成,使用多模型输出的平均结果;在测试阶段,将图像裁剪成多个副本分别测试,并将测试结果取平均。