社区
Java EE
帖子详情
java海量数据的处理
jkxp
2005-04-09 11:03:13
我现在开发的一个项目。
oracle+tomcat,数据库里有100万条数据。客户查询数据库返回记录后想把记录用excel的形式导出来
一次查询可能查找到符合条件的记录数达到10万条,在服务端有什么好的方式把十万条数据生成excel文件
如果一次读入内存然后一起生成的话服务器容易崩溃,请问各位同僚有什么好的建议或解决方法
...全文
584
16
打赏
收藏
java海量数据的处理
我现在开发的一个项目。 oracle+tomcat,数据库里有100万条数据。客户查询数据库返回记录后想把记录用excel的形式导出来 一次查询可能查找到符合条件的记录数达到10万条,在服务端有什么好的方式把十万条数据生成excel文件 如果一次读入内存然后一起生成的话服务器容易崩溃,请问各位同僚有什么好的建议或解决方法
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
16 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
DanielYWoo
2005-04-11
打赏
举报
回复
你先用jxl生成一个10w条数据的样本excel文件,给客户看看,看看客户的机器能不能打开那个文件。
zhangxiaomin88
2005-04-11
打赏
举报
回复
学习 我也很关心的问题
1203
2005-04-11
打赏
举报
回复
估计不行,应该是用户的需求有问题
benjamin_von
2005-04-11
打赏
举报
回复
noscar(java+Linux):请问分页为什么不行?
我觉得如果如果用数据库的直接查询结果分页应该是可以的啊,因为这么做是不用把结果集放进内存的。
至于如此大的数据量,呵呵,我看是没有必要的,客户也是不可能看得过来的;即使要这么多,也可以分批读取,分批写入excel。
如果要考虑效率问题,或者响应速度问题,可以考虑
1) 为数据库建立索引,簇索引
2) 为常用数据建Cache
3) 可以考虑读取数据的工作让另外一个线程去做,比如说先让读500条数据,写入excel,让用户下载;剩下的让另外一个线程在后面漫漫去做
偶是来混分的, 不止到有没有帮助:)
ChDw
2005-04-11
打赏
举报
回复
Excel 只支持65535,这个需求你应该在服务器尽可能的将Excel文件生成好它
talenty
2005-04-11
打赏
举报
回复
顶。是不是你们用户让你们做数据导出方式,用来移植和备份的?
woanon
2005-04-10
打赏
举报
回复
关注,顶
梦想家起飞
2005-04-10
打赏
举报
回复
10W条记录对于单个Excel文件来说过大了,1W还差不多,这样服务器压力也比较小一点。
rootcn
2005-04-10
打赏
举报
回复
study
ldemin
2005-04-10
打赏
举报
回复
hehe
007remember
2005-04-10
打赏
举报
回复
同意 java_skater(GoRillaZ) 的看法。
java_skater
2005-04-10
打赏
举报
回复
谁让你做的这个项目。你抽丫的去。一次10W条数据还要电子表格。。妈的他看的过来吗?
这种烂设计不要做了。。不是人做的!
mbl
2005-04-10
打赏
举报
回复
不好整,看来要用到ORACLE的分页技术,分多个文件导出。否则不好弄!
客户也有病,折磨大的数据导出干什么!◎
007remember
2005-04-10
打赏
举报
回复
路过
学习ing
关注ing
帮您顶
noscar
2005-04-10
打赏
举报
回复
关注....这样的话,用分叶,好象也不行袄.......
cyouyou
2005-04-09
打赏
举报
回复
mark
图解
Java
数据
结构和算法
1.算法是程序的灵魂,优秀的程序在对
海量
数据
处理
时,依然保持高速计算,就需要高效的
数据
结构和算法支撑。2.网上
数据
结构和算法的课程不少,但存在两个问题:1)授课方式单一,大多是照着代码念一遍,
数据
结构和算法...
【
Java
高级】大
数据
处理
算法
【
Java
高级】大
数据
处理
算法
JAVA
海量
数据
处理
之二(BitMap)
想要更快,就要深入挖掘
JAVA
基础的
数据
结构,从来分析出所编写的
JAVA
代码为什么把内存耗尽,思考有什么办法可以节省内存呢? 啊哈!算法。这里采用了 BitMap 思想。 首先来看一个实验: 指定 VM 参数大小...
海量
数据
处理
的方法总结
所谓
海量
数据
处理
,就是指
数据
量太大,无法在较短时间内迅速解决,或者无法一次性装入内存。而解决方案就是:针对时间,可以采用巧妙的算法搭配合适的
数据
结构,如 Bloom filter/Hashmap/bit-map/堆/
数据
库/倒排索引...
海量
数据
问题: 如何用
JAVA
几分钟
处理
完30亿个
数据
?
题目 现有一个10G文件的
数据
,里面包含了18-70之间的整数,假设年龄...
Java
中一个整数占4个字节,模拟10G为30亿左右个
数据
, 采用追加模式写入10G
数据
到硬盘里。 每10万个记录写一行,大概0.4M一行,10G大概25000...
Java EE
67,513
社区成员
225,879
社区内容
发帖
与我相关
我的任务
Java EE
J2EE只是Java企业应用。我们需要一个跨J2SE/WEB/EJB的微容器,保护我们的业务核心组件(中间件),以延续它的生命力,而不是依赖J2SE/J2EE版本。
复制链接
扫一扫
分享
社区描述
J2EE只是Java企业应用。我们需要一个跨J2SE/WEB/EJB的微容器,保护我们的业务核心组件(中间件),以延续它的生命力,而不是依赖J2SE/J2EE版本。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章