MySQL读取10G的CSV文件+python读写大文件

DouMiaoO_Oo 2016-11-02 05:55:02
问题是这样的,需要做数据处理,CSV文件不方便使用,所以需要存入MySQL中。因为我的CSV有10G,所以我的目标是能够高效的把数据导入数据库中,这里我本来考虑是用MySQL的LOAD DATA INFILE
但是CSV文件中的数据不是很符合规范,需要先预处理一遍才能导入数据库。因为CSV中包含中文,python处理编码比较方便,所以想用python来做预处理。请问python如何读写10G的文件,我知道可以read(size)这样,但怎么同时写入另一个文件

也许我的思路从一开始就有问题,所以把整个问题都描述了。
...全文
579 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复

34,576

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
  • 基础类社区
  • 二月十六
  • 卖水果的net
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧