java如何处理上百万条数据量的导出?

sirri_max 2018-01-25 01:35:47
如果有大佬有源码或者 案例的话,请提供一下。非常感谢!~
...全文
2748 8 打赏 收藏 转发到动态 举报
写回复
用AI写文章
8 条回复
切换为时间正序
请发表友善的回复…
发表回复
  • 打赏
  • 举报
回复
多线程,一个线程处理一个excel,最后合并excel即可
  • 打赏
  • 举报
回复
分页处理,一次查询100-1000条数据,然后写到excel中
defencez 2018-02-01
  • 打赏
  • 举报
回复
1、上百万数据的查询,都需要一定的时间(得根据服务器的资源情况),因此,查询条件应落在有索引的字段上 2、上百万条数据,还得看字段多少,字段长度(或实际记录平均大小),基本上也得有上百M的导出大小 3、导出的SQL语句最好写原生SQL查询,否则无论是HIBERNATE、JPA,把记录转化成对象耗时也不会小 4、导出生成文件时,执行压缩,不然文件太大 5、可利用数据库存储过程来执行生成文件,这比JAVA处理快很多 总之,这一切都得看你的计算资源情况,带宽、内存等
O-K-C 2018-02-01
  • 打赏
  • 举报
回复
poi 不是有个 大数据 到处的功能吗 ,百度 看看
戎码一生灬 2018-01-31
  • 打赏
  • 举报
回复
websocket
浮云若水 2018-01-30
  • 打赏
  • 举报
回复
异步处理呗 把数据拆分成多个 然后多个线程异步处理
ssy03092919 2018-01-25
  • 打赏
  • 举报
回复
这么多数据,耗点时间也是正常的
xwn_2016 2018-01-25
  • 打赏
  • 举报
回复
分批查询,分批写入文件

81,092

社区成员

发帖
与我相关
我的任务
社区描述
Java Web 开发
社区管理员
  • Web 开发社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧