55万行的Excel数据导入Sql2000 求高效方法?

qxw0816 2010-01-07 09:35:29
A表为个人基本信息
B表为缴费信息
这两个表是从oracle库中导出来的,由于个别原因没办法直接导入sql2000所以导出到excel中,而且后经过手动整理部分数据,

现在是循环A表插入到sql2000中的指定表 然后通过grid在B表中查询相应的缴费记录插入到sql2000指定表中
我现在是把两个excel先读入到datatable中 然后用datatable.select() 从b表中查询记录。循环期间还需要对一些数据的格式进行操作:如将一些字符串替换等等
可能是程序写的不好吧 循环很慢 大概8秒一行数据 晕!!
请高手指教,谢谢
...全文
490 21 打赏 收藏 转发到动态 举报
写回复
用AI写文章
21 条回复
切换为时间正序
请发表友善的回复…
发表回复
walkghost 2010-01-08
  • 打赏
  • 举报
回复
数据有没有ID?有的话,按照id或者某种规律来把文件分段,如果吹NB些就是“云”,“分布式”?
用程序,多线程导入,多开些数据库连接和线程吧。
chxg99 2010-01-08
  • 打赏
  • 举报
回复
关注
特别 2010-01-07
  • 打赏
  • 举报
回复
楼主是怎样读取EXCEL记录的,
你贴些代码出来才好
要不然咋提建议呢
csdnfan 2010-01-07
  • 打赏
  • 举报
回复
可以在数据库中直接导入的,SQL2000也自带这个工具。
liherun 2010-01-07
  • 打赏
  • 举报
回复
用sqlBulkCopy 一次批量插入 别一条条的插入
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
请高手指教啊
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 7 楼 m_struggle 的回复:]
你代码写得不够优化,建议检查下代码。
[/Quote]
其实也没什么,就是把数据读到excel中,然后把列取出来 期间有些字符串处理 用存储过程执行
只是嵌套了个循环
m_struggle 2010-01-07
  • 打赏
  • 举报
回复
你代码写得不够优化,建议检查下代码。
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 3 楼 liherun 的回复:]
csv
[/Quote]
我这两个excel有关系的 如果是一个直接导入就行了
请指教
PSSonyXbox 2010-01-07
  • 打赏
  • 举报
回复
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 server126 的回复:]
我也是用for做的呀
  不过我与的是“储存过程”来实现 的
  速度还可以
不是很慢
[/Quote]
我可能写的不好吧 好几个小时才不到1万数据 我哭
请指教
liherun 2010-01-07
  • 打赏
  • 举报
回复
csv
PSSonyXbox 2010-01-07
  • 打赏
  • 举报
回复
我也是用for做的呀
不过我与的是“储存过程”来实现 的
速度还可以
不是很慢
PSSonyXbox 2010-01-07
  • 打赏
  • 举报
回复
呵呵,,正巧我也做了一个这样的
不过好像没有你的那么多的Excel数据 我的只有几万行
oo_2008 2010-01-07
  • 打赏
  • 举报
回复
貌似一个excel文件根本就不可能支持55w行数据。为什么不写一个程序直接从oracle数据中提取数据呢?
使用sqlBulkCopy类插入数据效率是最好的,应该通过数据库也可以解决的
qldsrx 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 15 楼 qxw0816 的回复:]
数据库不再我这边,所以不行啊 再说我这两个Excel是有关系的 怎么用导入工具啊 而且列中的值是需要一定程序的转换的 比如:民族原来为01 要转为:汉族 类似这样的操作
[/Quote]

如果是这样,关于“民族原来为01 要转为:汉族 类似这样的操作”你可以先导入数字代码01后,再数据库中执行update,将代码数字转换为汉字。
qldsrx 2010-01-07
  • 打赏
  • 举报
回复
其实最高效的做法是,数据格式处理在Oracle数据库里导出时完成,要知道数据库就是处理数据用的,你导出了处理过的数据肯定比你导出后处理快速。至于导入,使用BCP命令即可完成,整个过程无需C#编程,不过需要过硬的数据库操作能力,要问数据库操作方法,这点我还是有自信的。
silezaihuolai 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 15 楼 qxw0816 的回复:]
引用 11 楼 xinsiyu2008 的回复:
可以在数据库中直接导入的,SQL2000也自带这个工具。

数据库不再我这边,所以不行啊 再说我这两个Excel是有关系的 怎么用导入工具啊 而且列中的值是需要一定程序的转换的 比如:民族原来为01 要转为:汉族 类似这样的操作
[/Quote]
天呐,像这样的东西SQL直接可以搞定啊。SELECT CASE WHERE COL = 1 THEN '汉族' WHEN COL = 2 THEN '壮族' END FROM xx表;
而且oracle利用pl/sql developer或者toda是可以直接倒出insert语句的啊。
再者楼主在使用datatable的时候是否设置了主键,设置了主键的datatable在使用select的时候可以提高不少效率呢。
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 11 楼 xinsiyu2008 的回复:]
可以在数据库中直接导入的,SQL2000也自带这个工具。
[/Quote]
数据库不再我这边,所以不行啊 再说我这两个Excel是有关系的 怎么用导入工具啊 而且列中的值是需要一定程序的转换的 比如:民族原来为01 要转为:汉族 类似这样的操作
qxw0816 2010-01-07
  • 打赏
  • 举报
回复
[Quote=引用 12 楼 sdfkfkd 的回复:]
楼主是怎样读取EXCEL记录的,
你贴些代码出来才好
要不然咋提建议呢
[/Quote]
读取已经没问题了 我把记录都读到DataTable中了 然后又循环DataTable 插入
加载更多回复(1)
代码下载地址: https://pan.quark.cn/s/8236006bf1f9 Word精灵插件:一款用于增强Microsoft Word功能的辅助软件,能够将多种复杂功能转化为插件形式,并在软件状态栏中进行展示,涵盖诸如批注管理、表格处理、内容替换、文档拆分、数学运算、字符提取、批量重命名等多项实用工具。在工作环境中应用该插件能够显著降低工作强度,提升操作效率。Word精灵插件兼容32位与64位的Microsoft Word版本,支持Word 2007、2010、2013以及Word 2016操作系统,但不适用于Word 2003版本。此外,该插件同样支持WPS办公软件。 功能概述: 1、表格自动调整宽度:自动优化文档内所有表格的显示宽度。 2、批量导出批注信息:将文档内所有批注集中导出到Excel工作簿中。 3、表格至Excel多表导出:在将表格导出到Excel时,每个Word表格将独立存放在一个工作表中,Word文档内的表格数量与Excel生成的工作表数量相等,并附有工作表目录。 4、表格至Excel单表导出:将文档内所有表格整合后导出到一个Excel工作表中,多个表格将按顺序排列于同一工作表内。 5、统一图片分辨率:对指定文件夹内的所有图片进行分辨率标准化处理。 6、图片批量缩放:依据设定比例对图片进行放大或缩小,支持按百分比调整。 7、图片批量插入:将图片批量插入到当前文档,可选择图片名称的展示形式,并设定图片的高度。 8、图片格式统一转换:将指定文件夹内的所有图片转换为相同的文件格式。 9、内容批量替换:对文档内容、页眉及页脚执行批量替换操作,例如将数字1替换为字母A,数字2替换为字母B,数字3替换为字母C等。 10、图片批量导出:将文档内所...
打开链接下载源码: https://pan.quark.cn/s/245ca7a27256 OmniGraffle是一款效能卓越的图形设计软件,在构建图表、流程图以及组织结构图等领域的应用尤为突出。该软件起源于Mac操作系统,并且兼容iOS平台,作为专业人士及业余爱好者进行图形设计时的首选工具之一。在OmniGraffle的功能模块中,“泳道图流程图”占据着核心地位,它主要用于勾勒业务流程图或系统流程图,其中各个分隔的泳道象征着不同的职能角色、部门划分或工作流程的各个阶段。泳道图(Lanes Diagram)作为流程图的一种特殊形式,通过将流程中的各个操作步骤分配到垂直或水平的“泳道”之中,能够明确地揭示出每个参与方或部门所承担的责任以及整个流程的走向。此类图形通常应用于业务流程管理(BPM)和系统分析领域,旨在帮助用户深入理解并优化复杂的业务流程。 在OmniGraffle中构建泳道图时,由于软件本身并未提供现成的泳道图模板,用户需要自行设计图形和布局以模拟出泳道的效果。然而,您提供的"06stencil泳道图流程图.graffle"文件很可能是一个预先构建好的模板,能够显著简化这一过程。该模板可能包含了预先设计好的泳道形态、箭头以及其他流程图组件,使用户能够直接在此基础上进行修改和增添个人的步骤,从而节省了大量的设计时间。 应用OmniGraffle的泳道图模板,你可以: 1. **导入模板**:首先需要启动OmniGraffle并将"06stencil泳道图流程图.graffle"文件添加到你的项目工作中。 2. **定制泳道**:依据实际需调整泳道的数量和尺寸,使之契合你的业务流程。每个泳道对应一个角色或部门,确保它们的排列顺序和宽度能够精确地体现实际的工...

111,128

社区成员

发帖
与我相关
我的任务
社区描述
.NET技术 C#
社区管理员
  • C#
  • Creator Browser
  • by_封爱
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

让您成为最强悍的C#开发者

试试用AI创作助手写篇文章吧