高分求高人指点,lucene内存溢出检索过慢问题

CSDW 2011-06-02 05:36:55
TopDocs topDocs = this.searchers.search(query, queryFilter, this.totalhits, sort);

因为要实现排序(升序降序),所以search出来的不是document的id而是整个文档,this.totalhits结果集过大的话会造成内存溢出的情况。

结果集可能过亿并需要排序分页 (没有数据库)

现有的做法是把所有结果集加载到内存缓存,通过缓存进行分页

求教各位有什么好的做法没?
...全文
239 11 打赏 收藏 转发到动态 举报
写回复
用AI写文章
11 条回复
切换为时间正序
请发表友善的回复…
发表回复
CSDW 2011-06-07
  • 打赏
  • 举报
回复
自己顶
CSDW 2011-06-03
  • 打赏
  • 举报
回复
谢谢上面回答,自己再次顶!
zn85600301 2011-06-03
  • 打赏
  • 举报
回复
另外C S D N或者是ITEYE 搜索引擎这块交流都不怎么样 基本是发帖就沉底

要是你要做这方面的应用 还是找几个人多的QQ群 这样解决问题简单快速
zn85600301 2011-06-03
  • 打赏
  • 举报
回复
[Quote=引用楼主 chenqi1988126 的回复:]
TopDocs topDocs = this.searchers.search(query, queryFilter, this.totalhits, sort);

因为要实现排序(升序降序),所以search出来的不是document的id而是整个文档,this.totalhits结果集过大的话会造成内存溢出的情况。

结果集可能过亿并需要排序分页 (没有数据库)

现有的做法是把……
[/Quote]
这样不行吧
lucene是不直接支持 分页查询 但是你可以间接的去做
http://85600367.iteye.com/admin/blogs/855535这是我以前学习lucene时的一点经验 希望能帮到你

CSDW 2011-06-03
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 zhangao0086 的回复:]

索引库是建立在内存中的吗?
[/Quote]
非常感谢你的回答,索引是每个月生成的,以文件形式存放的!是检索大量结果的时候造成的内存溢出
Bannings 2011-06-03
  • 打赏
  • 举报
回复
索引库是建立在内存中的吗?
CSDW 2011-06-03
  • 打赏
  • 举报
回复
自己顶
CSDW 2011-06-03
  • 打赏
  • 举报
回复
[Quote=引用 7 楼 wxn_yxm 的回复:]

自己做过,其实处理一下就可以了,提高一下性能
[/Quote]

你好,能说下具体实现思路吗?
CSDW 2011-06-03
  • 打赏
  • 举报
回复
谢谢楼上四位的回答,
http://85600367.iteye.com/admin/blogs/855535这个实现了功能,但是我要考虑的是邮件体过大,比如一封邮件为30M,每次检索出来的邮件就算只有1w封(我们在存储的时候并没有将邮件体和附件分离),也会造成内存溢出的情况
安心逍遥 2011-06-03
  • 打赏
  • 举报
回复
http://85600367.iteye.com/admin/blogs/855535
顶这个。祝lz好运
wxn_yxm 2011-06-03
  • 打赏
  • 举报
回复
自己做过,其实处理一下就可以了,提高一下性能
提供的源码资源涵盖了Java应用等多个领域,每个领域都包含了丰富的实例和项目。这些源码都是基于各自平台的最新技术和标准编写,确保了在对应环境下能够无缝运行。同时,源码中配备了详细的注释和文档,帮助用户快速理解代码结构和实现逻辑。 适用人群: 适合毕业设计、课程设计作业。这些源码资源特别适合大学生群体。无论你是计算机相关专业的学生,还是对其他领域编程感兴趣的学生,这些资源都能为你提供宝贵的学习和实践机会。通过学习和运行这些源码,你可以掌握各平台开发的基础知识,提升编程能力和项目实战经验。 使用场景及目标: 在学习阶段,你可以利用这些源码资源进行课程实践、课外项目或毕业设计。通过分析和运行源码,你将深入了解各平台开发的技术细节和最佳实践,逐步培养起自己的项目开发和问题解决能力。此外,在求职或创业过程中,具备跨平台开发能力的大学生将更具竞争力。 其他说明: 为了确保源码资源的可运行性和易用性,特别注意了以下几点:首先,每份源码都提供了详细的运行环境和依赖说明,确保用户能够轻松搭建起开发环境;其次,源码中的注释和文档都非常完善,方便用户快速上手和理解代码;最后,我会定期更新这些源码资源,以适应各平台技术的最新发展和市场需求。 所有源码均经过严格测试,可以直接运行,可以放心下载使用。有任何使用问题欢迎随时与博主沟通,第一时间进行解答!

50,530

社区成员

发帖
与我相关
我的任务
社区描述
Java相关技术讨论
javaspring bootspring cloud 技术论坛(原bbs)
社区管理员
  • Java相关社区
  • 小虚竹
  • 谙忆
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧