社区
Java SE
帖子详情
大于4G的文件如何全部读入内存?[请高手指点]
kcb_bj
2009-11-06 05:35:19
各位好,现在遇到一个大文件处理的问题,需要将大于4G的文件全部读入内存,然后对内存的数据进行检查校验,如果有不符合规则(校验规则比较简单)的数据,则该文件无效。
请问,这应该怎么处理好?(生产环境是64位系统,64G内存小型机)
...全文
764
44
打赏
收藏
大于4G的文件如何全部读入内存?[请高手指点]
各位好,现在遇到一个大文件处理的问题,需要将大于4G的文件全部读入内存,然后对内存的数据进行检查校验,如果有不符合规则(校验规则比较简单)的数据,则该文件无效。 请问,这应该怎么处理好?(生产环境是64位系统,64G内存小型机)
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
44 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
sunnet2008
2009-12-09
打赏
举报
回复
继续关注
cnyangqi
2009-12-09
打赏
举报
回复
未遇到过的环境^^
tenderuser
2009-12-08
打赏
举报
回复
帮顶,不太懂
gyj20061111
2009-12-08
打赏
举报
回复
不太现实,换种思路
lingchen89
2009-12-08
打赏
举报
回复
为啥 要全部读进去呢 有这个必要么??
crazylaa
2009-12-08
打赏
举报
回复
nio
tuerqizhou
2009-12-08
打赏
举报
回复
是个好问题?
Dazzlingwinter
2009-12-08
打赏
举报
回复
100G的内存你也没必要全部都读到内存吧,比较有比较的办法,但是没必要全读进去啊
sunnet2008
2009-12-08
打赏
举报
回复
关注中 一定要搞明白LZ是什么意思
greenbar
2009-12-08
打赏
举报
回复
输入输出流循环读,一次读是不可能的
superdemon
2009-12-08
打赏
举报
回复
个人认为你根本就不应该考虑怎么样把4G的文件读入内存进行校验,而应该从性能和实际情况来考虑用别的方法来进行校验。比如之前有人说的分段校验,或者文件的MD5码校验。
小灰狼
2009-12-07
打赏
举报
回复
楼主听我一句劝,换一种方式处理你的问题,比考虑如何读4G的文件到内存要能更快解决问题
小瑞
2009-12-07
打赏
举报
回复
我也不知道了
wolf521hf
2009-12-07
打赏
举报
回复
路过 学习
chenluozhi
2009-12-07
打赏
举报
回复
UP 每天回帖即可获得10分可用分!
justinavril
2009-12-07
打赏
举报
回复
用nio的内存隐射文件吧 真没必要一次全读到内存中去
SunFulong
2009-12-07
打赏
举报
回复
使用64位的JVM即可读取4GB+的文件到内存,上限是多少不清楚,但是应该会大于64GB
hy158753228
2009-12-07
打赏
举报
回复
双学习一个新知识点,谢谢!!!
http://hi.baidu.com/kaka888/blog/item/26f59a3dacbb8701baa167fe.html
leesoftware
2009-12-07
打赏
举报
回复
。。。。。。。。。。。。。。。。。
micsolaris
2009-12-01
打赏
举报
回复
上面说那些读几G文件没办法实现的人请去了解下 “内存映射文件”,别在那里说风凉话。就是10几个G照样可以映射到内存,因为用的并不是实际的内存,是虚拟内存。
加载更多回复(24)
内存
不足时,Python读取大
文件
(
4g
内存
读写12g
文件
)
本文介绍在
4G
B
内存
环境下使用Python读取12GB CSV
文件
的方法,通过迭代器逐行读取避免
内存
溢出,并利用flush函数定时将匹配结果写入磁盘,解决大数据量下
内存
不足的问题。
为Java虚拟机分配堆
内存
大于
机器物理
内存
会怎么样?
本文从源代码角度解答为Java虚拟机指定的堆
内存
大于
物理
内存
会怎样的问题。介绍了
内存
申
请
的两阶段,指出进程可申
请
远
大于
本机物理
内存
的虚拟
内存
,只要不读写就不会分配物理
内存
。还阐述了Swap机制,开启Swap可保障程序运行,但使用过多会使系统卡顿、性能下降。
Java SE
62,620
社区成员
307,251
社区内容
发帖
与我相关
我的任务
Java SE
Java 2 Standard Edition
复制链接
扫一扫
分享
社区描述
Java 2 Standard Edition
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章