导出CSV,最多能导出多大啊··百万条能做到吗?

sqz10200 2009-07-24 01:46:31
我现在又一个项目要导出数据···用CSV导出数据的话···能导出百万条数据吗??


你们谁导出过啊···说说···你们都到处过多少条的数据过···到Excel,Txt,CSV,XML

都可以··


说说···

...全文
10396 13 打赏 收藏 转发到动态 举报
写回复
用AI写文章
13 条回复
切换为时间正序
请发表友善的回复…
发表回复
怪怪 2011-07-23
  • 打赏
  • 举报
回复
[Quote=引用 4 楼 anhy 的回复:]

引用楼主 sqz10200 的回复:
我现在又一个项目要导出数据···用CSV导出数据的话···能导出百万条数据吗??


你们谁导出过啊···说说···你们都到处过多少条的数据过···到Excel,Txt,CSV,XML

都可以··


说说···




上百万数据导出格式为CSV是可以的
[/Quote]

用分页吗?我没分也,好像几十万就不行了呀.CSV的
sqz10200 2010-08-10
  • 打赏
  • 举报
回复
[Quote=引用 11 楼 lhljavaboy2006 的回复:]

我也遇到了和你同样的问题,请问你到最后是怎么解决导出百万数据的啊?
[/Quote]

w我忘了

(*^__^*) 嘻嘻……
lhljavaboy2006 2010-08-09
  • 打赏
  • 举报
回复
我也遇到了和你同样的问题,请问你到最后是怎么解决导出百万数据的啊?
sqz10200 2009-07-24
  • 打赏
  • 举报
回复
[Quote=引用 9 楼 anhy 的回复:]
引用 8 楼 sqz10200 的回复:
4楼~!!
你说可以说说怎么弄啊~!!

2楼~!!
导出这么多·我也没有办法·
我导出5.7W条都可以我是分多个Sheet来完成的。。
我还是想导出百万条。。

谢谢大家这么顶啊···导出百万条数据用什么做容器好啊··


如果只是导出CSV格式的话,不需要用POI或者jxl之类的,直接以文本文件格式输出(各列之间以逗号分隔),CSV是没有长度限制的,只是这么导出的数据的行数如果大于65535的话,不能用excel打开。

导出CSV时,为了提高性能与内存消耗,可以设置一个大小的缓冲区,小于这个大小时从数据库读取数据,当大于这个大小时写文件请缓冲区。
[/Quote]


知道了~!!你有做过的案例吗?我比较菜嘛···(*^__^*) 嘻嘻……

能发个邮件吗?songqiangzhe@hotmail.com

我刚才用mysql的命令:select * from tt into outfile 'a.txt';

直接导出数据了,应该说是备份吧···

通过Java代码怎么实现这个效果啊?
anhy 2009-07-24
  • 打赏
  • 举报
回复
[Quote=引用 8 楼 sqz10200 的回复:]
4楼~!!
你说可以说说怎么弄啊~!!

2楼~!!
导出这么多·我也没有办法·
我导出5.7W条都可以我是分多个Sheet来完成的。。
我还是想导出百万条。。

谢谢大家这么顶啊···导出百万条数据用什么做容器好啊··
[/Quote]

如果只是导出CSV格式的话,不需要用POI或者jxl之类的,直接以文本文件格式输出(各列之间以逗号分隔),CSV是没有长度限制的,只是这么导出的数据的行数如果大于65535的话,不能用excel打开。

导出CSV时,为了提高性能与内存消耗,可以设置一个大小的缓冲区,小于这个大小时从数据库读取数据,当大于这个大小时写文件请缓冲区。
sqz10200 2009-07-24
  • 打赏
  • 举报
回复
4楼~!!
你说可以说说怎么弄啊~!!

2楼~!!
导出这么多·我也没有办法·
我导出5.7W条都可以我是分多个Sheet来完成的。。
我还是想导出百万条。。

谢谢大家这么顶啊···导出百万条数据用什么做容器好啊··
logon29 2009-07-24
  • 打赏
  • 举报
回复
2楼说的对,重新明确客户需求。

几百万行记录的csv文件,要有多少M啊? 这么大的文件,在一般机器上打开需要多长时间。。。。

怎么阅读?
pilotyyc 2009-07-24
  • 打赏
  • 举报
回复
做个标记,跟踪学习。有经验的XD给讲讲。
xingyanfang 2009-07-24
  • 打赏
  • 举报
回复
学习
anhy 2009-07-24
  • 打赏
  • 举报
回复
[Quote=引用楼主 sqz10200 的回复:]
我现在又一个项目要导出数据···用CSV导出数据的话···能导出百万条数据吗??


你们谁导出过啊···说说···你们都到处过多少条的数据过···到Excel,Txt,CSV,XML

都可以··


说说···


[/Quote]

上百万数据导出格式为CSV是可以的
wangju309 2009-07-24
  • 打赏
  • 举报
回复
曾经用jxl导出过超过65535的数据,用excel得分页sheet,但性能消耗大,导出csv边读边写占内存小,但超过65535你用excel打开就显示不了了
archko 2009-07-24
  • 打赏
  • 举报
回复
65535.EXCEL2003一个SHEET只能看到这么多.你要分多个SHEET导出.
然而用JXL导出的为EXCEL的话超过大约50000就会出现OOM错误.它导出CSV就不会,但超过65536,不显示,
导出几百W是用来看的么?鬼会看这么多啊.
客户的需求搞清楚了,看看导出小数量的行不.如果一定要求导出大数据....
windy454 2009-07-24
  • 打赏
  • 举报
回复
我也就做过几百条。多了的没接触过
内容概要:本文围绕“非线性流量的数据驱动Koopman模型预测控制研究”展开,提出一种基于数据驱动的Koopman算子理论方法,用于构建非线性系统的线性化状态空间模型,并结合模型预测控制(MPC)实现对复杂非线性系统的高效控制。研究通过引入扩展动态模态分解(EDMD)等观测函数,将非线性动力学映射至高维特征空间,在该空间中实现近似线性化表征,进而融合线性MPC框架进行优化求解。全文系统阐述了Koopman算子的数学基础、隐式线性化机制及在非线性流量控制中的建模流程,并通过Matlab代码完成了算法实现与仿真实验,验证了该方法在处理无精确物理模型、强非线性、时变动态系统中的有效性与鲁棒性,尤其适用于工业流程控制、能源系统调度等实际工程场景。; 适合人群:具备自动控制理论、非线性系统分析基础,熟悉Matlab编程,从事控制工程、系统辨识、智能优化、能源系统建模等方向的研究生、科研人员及工程技术人员。; 使用场景及目标:①应用于难以建立精确数学模型的复杂非线性系统(如流体动力系统、电力电子系统、机器人动力学等)的建模与实时控制;②实现数据驱动下的模型预测控制,提升系统响应速度与控制精度;③为先进控制策略(如MPC)提供一种可行的线性化建模范式,推动现代控制理论与数据科学、机器学习的深度融合。; 阅读建议:建议读者结合提供的Matlab代码深入理解Koopman方法的具体实现过程,重点关注观测函数构造、核函数选择、矩阵逼近、降维处理及MPC控制器设计等关键技术环节,并尝试将其迁移至其他非线性系统中进行复现实验与性能对比,以全面掌握其适用范围与局限性。
内容概要:本文详细介绍了一种基于Simulink的光伏储能单相逆变器并网仿真模型,系统涵盖了光伏阵列、储能单元、DC-AC单相逆变器及并网接口的完整结构,重点实现了储能环节的能量管理与逆变器并网控制策略的建模仿真。通过Simulink平台构建系统模型,验证了逆变器输出电能质量、并网稳定性以及控制系统的动态响应性能,采用SPWM调制、PI闭环控制等关键技术,确保并网电流与电网电压同频同相,满足并网电能质量要求。该模型不仅可用于分布式能源系统的仿真研究,还可作为新能源并网技术的教学与工程实践工具。; 适合人群:电气工程、自动化、新能源科学与工程等相关专业的高校本科生、研究生、科研人员,以及从事光伏发电系统设计、储能控制与并网技术研发的工程技术人员。; 使用场景及目标:①深入理解光伏储能系统中能量转换、存储与并网控制的整体工作原理;②支持课程设计、毕业设计或科研项目中对单相逆变器控制策略(如SPWM、PI调节、锁相技术等)的仿真验证与参数优化;③为后续研究更复杂的控制算法(如MPPT、低电压穿越、谐波抑制等)提供可扩展的仿真基础平台。; 阅读建议:建议结合MATLAB/Simulink环境动手搭建与调试模型,逐步理解各模块(如光伏建模、储能充放电控制、逆变器驱动、锁相环、PI调节器等)的功能与交互关系,重点关注控制系统的设计逻辑与参数整定过程,并可通过修改负载条件或电网参数测试系统鲁棒性,为进一步拓展至三相系统或多机并网场景奠定基础。

81,112

社区成员

发帖
与我相关
我的任务
社区描述
Java Web 开发
社区管理员
  • Web 开发社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧