NLP之相关反馈

单程票闯天涯 2015-08-21 04:47:04
在大多数数据集中,同一个概念可以有不同的词进行表达,这个现象就是一义多词,这会对大部分的信息检索系统的召回率产生影响。在这里我们谈一下查询优化中的相关反馈的概念和方法。
相关反馈(RF)的主要思想是,用户会对初次检索的结果的相关性给出反馈意见,其基本过程包括:
1 用户提交一个初始的简短查询
2 系统返回初次检索结果
3 用户对部分结果进行标注(相关性,不相关性)
4 系统基于用户的反馈计算出一个更好的查询表示系统需求
5 利用新查询系统返回新的检索结果
上述过程可以反复多次循环。而相关反馈是依赖于某些假设。第一,用户必须有足够的知识来建立一个不错的初始查询,该查询至少要在某种程度上接近需求文档。第二,相关反馈方法要求相关文档之间非常相似。
相关反馈的算法——Rocchio算法
基本理论,假设我们要找一个最优的查询向量q,也就是查询语句关键词特征,它与相关文档之间的相似度最大同时又和不相关文档之间相似度最小。若Cr 表示相关文档集,Cnr表示不相关文档集,那么我们的最优查询向量q就是
q=argmax{sim(q,Cr)-sim(q,Cnr)} 其中sim是余弦相似度公式。
...全文
107 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
红面狼 2015-08-21
  • 打赏
  • 举报
回复
本课程隶属于自然语言处理(NLP)实战系列。自然语言处理(NLP)是数据科学里的一个分支,它的主要覆盖的内容是:以一种智能与高效的方式,对文本数据进行系统化分析、理解与信息提取的过程。通过使用NLP以及它的组件,我们可以管理非常大块的文本数据,或者执行大量的自动化任务,并且解决各式各样的问题,如自动摘要,机器翻译,命名实体识别,关系提取,情感分析,语音识别,以及主题分割等等。一般情况下一个初级NLP工程师的工资从15万-35万不等,所以掌握NLP技术,对于人工智能学习者来讲是非常关键的一个环节。【超实用课程内容】 课程从自然语言处理的基本概念与基本任务出发,对目前主流的自然语言处理应用进行全面细致的讲解,包括文本分类,文本摘要提取,文本相似度,文本情感分析,文本特征提取等,同时算法方面包括经典算法与深度学习算法的结合,例如LSTM,BiLSTM等,并结合京东电商评论分类、豆瓣电影摘要提取、今日头条舆情挖掘、饿了么情感分析等过个案例,帮助大家熟悉自然语言处理工程师在工作中会接触到的常见应用的实施的基本实施流程,从0-1入门变成自然语言处理研发工程师。 【课程如何观看?】 PC端:https://edu.csdn.net/course/detail/25649 移动端:CSDN 学院APP(注意不是CSDN APP哦)本课程为录播课,课程2年有效观看时长,大家可以抓紧时间学习后一起讨论哦~【学员专享增值服务】 源码开放课件、课程案例代码完全开放给你,你可以根据所学知识,自行修改、优化下载方式:电脑登录https://edu.csdn.net/course/detail/25649,点击右下方课程资料、代码、课件等打包下载通过第二课时下载材料

594

社区成员

发帖
与我相关
我的任务
社区描述
提出问题
其他 技术论坛(原bbs)
社区管理员
  • community_281
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧