社区
疑难问题
帖子详情
求编辑大文本数据的工具或者方法
fctudou
2015-08-15 05:26:42
最近要整理数据,很多都是几百万条记录的,excel只能6W多,虽然ultraedit能打开,很方便,可是我需求对这几百万条的数据记录做批量修改,操作以后一般都会出现未响应,基本编辑不了
有没有大侠知道方法或者工具
...全文
156
7
打赏
收藏
求编辑大文本数据的工具或者方法
最近要整理数据,很多都是几百万条记录的,excel只能6W多,虽然ultraedit能打开,很方便,可是我需求对这几百万条的数据记录做批量修改,操作以后一般都会出现未响应,基本编辑不了 有没有大侠知道方法或者工具
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
7 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
Tiger_Zhao
2015-08-17
打赏
举报
回复
参考
XML 格式化文件 (SQL Server)
你可以用
TERMINATOR = "--"
来指定(除了行末字段的)分隔符。
xiaoxiangqing
2015-08-17
打赏
举报
回复
这么大的量,只能用语句直接修改吧
fctudou
2015-08-17
打赏
举报
回复
中文字符我改了下,好了。 有些数据不能直接导入数据库,要编辑格式才行, 比较我有个几十万条记录的记事本,几个字段都用空格或者其他符号分隔的,请问有什么办法能编辑成能导入数据的格式,例如: 原始文件格式 123--324--1231--12323 134--2324--2324--4543 像这种怎么改成数据库能导入的格式 (123, 324, 1231, 12323), 呢? ultraedit打开批量替换会处理不来。
Q315054403
2015-08-16
打赏
举报
回复
导入数据库,建立合理的索引,随便改呗 很多数据库都是数千万、数亿记录的,同样接受高并发修改、查询请求
fctudou
2015-08-16
打赏
举报
回复
写程序,部分读入,修改,再保存入另外一个文件。不然就会出现你这样的问题。 请问2楼有什么现成的工具没? 尝试了导入mysql数据库来修改,老出问题,应该是编码问题,不知道怎么解决 ERROR 1366 (HY000): Incorrect string value: '\xC3\xE3\xBF\xFC' for column 'usern ame' at row 1 另外有些数据记录字段不统一,导入数据来修改就比较麻烦了
shoppo0505
2015-08-16
打赏
举报
回复
写程序,部分读入,修改,再保存入另外一个文件。不然就会出现你这样的问题。
shallming_ma
2015-08-16
打赏
举报
回复
不知道楼主EXCEL是什么版本,本人现在用2013,可以处理的行数有140多万行,只是会比较慢,一般不会轻易使用而已.个人工作平日数据处理量在240万左右,习惯放进数据库批量处理比较方便而且一致,后期输出或者生成文件也比较方便,如果有特殊的处理要求不妨提出大家探讨.
LTFViewr大
文本
文件查看
工具
:轻松驾驭海量
文本
LTFViewr是一款处理大型
文本
文件的
工具
,能打开超1G文件,解决传统
编辑
器打开大文件的性能问题。它采用分页显示,提升阅读和查找效率,显示效果好。适用于软件开发、
数据
分析、学术研究等场景,为处理大
文本
文件提供高效稳定支持。
批量大
文本
筛选过滤
工具
开发记录
本文记录了一个使用Python开发的大
文本
筛选过滤
工具
的制作过程,主要使用PyQT框架确保用户体验。
工具
能自动检测文件编码,预览并筛选大文件的前100行,提供多种过滤操作,包括
文本
和数值筛选。采用多线程处理
数据
,实时更新界面进度,以提高用户体验。同时,还记录了
工具
的维护和优化策略。
Linux常用
文本
编辑
工具
及常用指令
这篇博客深入探讨了Linux系统中常用的
文本
编辑
工具
,包括sed的定址、模式空间、保持空间和标签功能,awk的正则表达式、条件匹配、内置变量等内容,以及cut、sort和uniq的使用技巧。通过实例演示了这些
工具
如何进行
文本
处理、
数据
筛选和排序。
Linux下的
文本
编辑
工具
- vi
本文详细介绍了Linux系统中vi
编辑
器的使用
方法
,包括工作模式、光标操作、文档
编辑
、查找替换以及保存退出等功能,是Linux系统管理与开发人员必备技能。
使用Vim创建和
编辑
文本
文件
本文详细介绍vim
编辑
器的基础知识,包括其工作模式、基本操作流程及实用
编辑
技巧,帮助读者快速掌握这一强大的
文本
编辑
工具
。
疑难问题
22,296
社区成员
121,728
社区内容
发帖
与我相关
我的任务
疑难问题
MS-SQL Server 疑难问题
复制链接
扫一扫
分享
社区描述
MS-SQL Server 疑难问题
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章