glove中文词向量_关于词向量的面试题，你想知道的都在这里了

如果觉得还不错&＃xff0c;帮忙点个赞&＃xff0c;鞠躬感谢

微信公众号&＃xff1a;NLP从入门到放弃

Github: https://github.com/DA-southampton/NLP_ability

主要包含&＃xff1a;Word2vec/Fasttext/Glove/Elmo

1. 有没有使用自己的数据训练过Word2vec&＃xff0c;详细说一下过程。包括但是不限于&＃xff1a;语料如何获取&＃xff0c;清理以及语料的大小&＃xff0c;超参数的选择及其原因&＃xff0c;词表以及维度大小&＃xff0c;训练时长等等细节点。
2. Word2vec模型是如何获得词向量的&＃xff1f;聊一聊你对词嵌入的理解&＃xff1f;如何理解分布式假设&＃xff1f;
3. 如何评估训练出来的词向量的好坏
4. Word2vec模型如何做到增量训练
5. 大致聊一下 word2vec这个模型的细节&＃xff0c;包括但不限于&＃xff1a;两种模型以及两种优化方法&＃xff08;大致聊一下就可以&＃xff0c;下面会详细问&＃xff09;
6. 解释一下 hierarchical softmax 的流程(CBOW and Skip-gram)
7. 基于6&＃xff0c;可以展开问一下模型如何获取输入层&＃xff0c;有没有隐层&＃xff0c;输出层是什么情况。
8. 基于6&＃xff0c;可以展开问输出层为何选择霍夫曼树&＃xff0c;它有什么优点&＃xff0c;为何不选择其他的二叉树
9. 基于6&＃xff0c;可以问该模型的复杂度是多少&＃xff0c;目标函数分别是什么&＃xff0c;如何做到更新梯度&＃xff08;尤其是如何更新输入向量的梯度&＃xff09;
10. 基于6&＃xff0c;可以展开问一下 hierarchical softmax 这个模型 有什么缺点
11. 聊一下负采样模型优点&＃xff08;为什么使用负采样技术&＃xff09;
12. 如何对输入进行负采样&＃xff08;负采样的具体实施细节是什么&＃xff09;
13. 负采样模型对应的目标函数分别是什么&＃xff08;CBOW and Skip-gram&＃xff09;
14. CBOW和skip-gram相较而言&＃xff0c;彼此相对适合哪些场景
15. 有没有使用Word2vec计算过句子的相似度&＃xff0c;效果如何&＃xff0c;有什么细节可以分享出来
16. 详细聊一下Glove细节&＃xff0c;它是如何进行训练的&＃xff1f;有什么优点&＃xff1f;什么场景下适合使用&＃xff1f;与Word2vec相比&＃xff0c;有什么区别&＃xff08;比如损失函数&＃xff09;&＃xff1f;
17. 详细聊一下Fasttext细节&＃xff0c;每一层都代表了什么&＃xff1f;它与Wod2vec的区别在哪里&＃xff1f;什么情况下适合使用Fasttext这个模型&＃xff1f;
18. ELMO的原理是什么&＃xff1f;以及它的两个阶段分别如何应用&＃xff1f;&＃xff08;第一阶段如何预训练&＃xff0c;第二阶段如何在下游任务使用&＃xff09;
19. ELMO的损失函数是什么&＃xff1f;它是一个双向语言模型吗&＃xff1f;为什么&＃xff1f;
20. ELMO的优缺点分别是什么&＃xff1f;为什么可以做到一词多义的效果&＃xff1f;