Co-Occurence Vector(Latent Semantic Analysis)是否具有明显的优缺点？

weixin_32178547 2022-02-16 10:56:28

Co-Occurence Vector(Latent Semantic Analysis)是否具有明显的优缺点？

...全文

1877 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2022-02-17

打赏
举报

回复

优点：相比于前几种基于频率的方法，它保留了一定的语义信息，考虑到了局部的顺序。
缺点：
1：维度过大，共现矩阵难以处理，可以通过SVD，PCA等进行降维操作，但是计算量会很大
2：加入新的单词后，需要重新计算整个共现矩阵，拓展性差

经典统计语言模型

CS224N NLP与深度学习的结合简介文章目录CS224NNLP与深度学习的结合简介简介为什么NLP会这么困难？Deep NLP：What is word2vector？word2vector的常见方法(word embedding）：skip-grams（最基础，效率不高）：摘录一篇csdn大佬的总结：skip-grams的优化负采样（negative sampling）CBOW模型CBOW网络计算的步骤：一种基于这种直接查看共现（co-occurence）矩阵的方法：**怎么解决呢？答案是奇异值分解

http://www.52nlp.cn/%E6%96%AF%E5%9D%A6%E7%A6%8F%E5%A4%A7%E5%AD%A6%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E4%B8%8E%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86%E7%AC%AC%E4%BA%8C%E8%AE%B2%E8%AF%8D...

斯坦福大学在三月份开设了一门“深度学习与自然语言处理”的课程：CS224d: Deep Learning for Natural Language Processing，授课老师是青年才俊 Richard Socher，以下为相关的课程笔记。第二讲：简单的词向量表示：word2vec, Glove(Simple W

前言这些知识点基本是本人在准备春招和秋招时做的笔记，东西比较杂，有的是自己总结，有的是参考网上博客，可能不是很准确，还望各位批评指正，多多交流。问-1：对于NLP任务来说，特征提取器需要满足什么能力？答： 1：保留位置信息，对于文本数据来说，不同的位置信息可能会带来较大的影响 2：具备长距离特征捕获能力问-2：NLP的主要有哪些任务任务？答： 1：序列标注：中文分词，词性标注，命名实体识别，语义角色标注等 2：分类任务：文本分类，情感计算 3：句子关系判断：问答（QA），语义改写（这个不太明白）

高通开发者论坛

2,852

社区成员

5,758

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章