深度学习知识卡片:词嵌入常见方法

继续之前的:

  1. 深度学习知识卡片:深度学习基本概念
  2. 深度学习知识卡片:Logistic 回归
  3. 深度学习知识卡片:浅层网络的特点
  4. 深度学习知识卡片:深度神经网络的特点
  5. 深度学习知识卡片:偏差与方差
  6. 深度学习知识卡片:正则化
  7. 深度学习知识卡片:最优化训练
  8. 深度学习知识卡片:最优化算法
  9. 深度学习知识卡片:超参数调优
  10. 深度学习知识卡片:结构化机器学习过程
  11. 深度学习知识卡片:误差分析
  12. 深度学习知识卡片:训练集、开发集与测试集
  13. 深度学习知识卡片:学习方法扩展
  14. 深度学习知识卡片:卷积神经网络基础
  15. 深度学习知识卡片:卷积运算的主要参数
  16. 深度学习知识卡片:深度卷积神经网络架构
  17. 深度学习知识卡片:经典卷积神经网络
  18. 深度学习知识卡片:特殊卷积神经网络
  19. 深度学习知识卡片:实践建议
  20. 深度学习知识卡片:目标检测算法
  21. 深度学习知识卡片:人脸识别
  22. 深度学习知识卡片:风格迁移
  23. 深度学习知识卡片:循环神经网络基础
  24. 深度学习知识卡片:循环神经网络应用
  25. 深度学习知识卡片:NLP 中的词表征
词嵌入常见方法
词嵌入常见方法

GloVe 词向量是很常见的词向量学习方法,它学到的词表征可进一步用于语句分类等任务。GloVe 的全称叫:Global Vectors for Word Representation,它是一个基于全局词频统计(Count-based & Overall Statistics)的词表征(Word Representation)工具,它可以把一个单词表达成一个由实数组成的向量,这些向量捕捉到了单词之间一些语义特性,比如相似性(Similarity)、类比性(Analogy)等。我们通过对向量的运算,比如欧几里得距离或者 Cosine 相似度,可以计算出两个单词之间的语义相似性。