delphi读取EXCEL中数据写入数据库,如何加快速度?

代斯Max 2018-05-28 05:58:25
delphi读取EXCEL中数据,20W条数据,写入mysql数据库。
在事务中,for循环,每隔1K条提交一次数据,完成时间约4分钟。
如果是40W条,时间就翻倍了。
请问如何优化下,能提高速度?谢谢
...全文
3671 17 打赏 收藏 转发到动态 举报
写回复
用AI写文章
17 条回复
切换为时间正序
请发表友善的回复…
发表回复
BlueStorm 2018-10-09
  • 打赏
  • 举报
回复
joanagle 2018-10-09
  • 打赏
  • 举报
回复
引用 14 楼 lyhoo163 的回复:

大数据的导入,只要EXCEL的字段(列)设置准确,通过SQL Server Management Studio Express。
就可以直接导入,速度也快。


你这种只适合03版的EXCEL,对07版以后的EXCEL不适用
boylafong 2018-09-10
  • 打赏
  • 举报
回复
保证列的正确,可以用sqlserver自己带的工具
lyhoo163 2018-09-08
  • 打赏
  • 举报
回复

大数据的导入,只要EXCEL的字段(列)设置准确,通过SQL Server Management Studio Express。
就可以直接导入,速度也快。
  • 打赏
  • 举报
回复
可以先插入到TClientDataSet,再写回数据库表。
秋天之落叶 2018-09-05
  • 打赏
  • 举报
回复
我刚才测试了一下,使用insert into...from openrowset (ACE.OLEDB.12.0)10万条记录用时18秒,速度不错。

但是,加到20万条记录,开始导入后30秒时提示查询超时,调整命令和连接的延时到120秒,均是在开始导入30秒时查询超时。
秋天之落叶 2018-09-05
  • 打赏
  • 举报
回复
哦,delphi版本XE10.2 ,sql server 2014,驱动ACE.OLEDB.12.0。
顺便问一下,如何修正查询超时的问题?
秋天之落叶 2018-09-05
  • 打赏
  • 举报
回复
ado设置timeout=0后,20万条记录,39秒导入成功
cate1019 2018-09-04
  • 打赏
  • 举报
回复
引用 8 楼 sailxia 的回复:
別分几次提交,整理好Excel为sql,用事务一次提交就好,我试了一下,24万多的数据提交给服务器,也就花了 68 秒。

你是用什么方式打开Excel的呢?能否分享一下代码?我也碰到速度慢的问题。
Frank.WU 2018-06-04
  • 打赏
  • 举报
回复
別分几次提交,整理好Excel为sql,用事务一次提交就好,我试了一下,24万多的数据提交给服务器,也就花了 68 秒。
Frank.WU 2018-06-04
  • 打赏
  • 举报
回复
看看你提交过程?
flynetxu 2018-06-01
  • 打赏
  • 举报
回复
试试如下方法 insert into 你的表 SELECT * FROM OPENDATASOURCE('Microsoft.ACE.OLEDB.12.0', 'Data Source=你的EXCEl文件;Extended Properties=EXCEL 12.0')...[表名$]
zhoufs 2018-05-30
  • 打赏
  • 举报
回复
先用手工方法,将Excel中的数据导入到SQL Server,再将数据从SQL Server读入到 MySQL 中
xiaocongzhi 2018-05-29
  • 打赏
  • 举报
回复
用数据流的方法最快,网上有教程的
秋天之落叶 2018-05-29
  • 打赏
  • 举报
回复
使用DBGridEh的SaveDBGridEhToExportFile几千条数据瞬间形成EXCEL,但是EXCEL导入数据库没有试过,也不知道DBGridEh有没有这个函数
代斯Max 2018-05-29
  • 打赏
  • 举报
回复
引用 1 楼 lyhoo163 的回复:
1、读取EXCEL时,不用OLE模式,第三方控件比较快。 2、开辟多线程,分别读取数据。 3、提高硬件读取速度,好机器可加快速度。
现是使用StringList对象读取Excel,所有数据都在StringList对象中,这个瞬间就读取完了。 然后就是在事务中,循环这个StringList对象,循环取出数据,再每隔1K条提交一次数据。 整个流程是这样的。 有第三方控件的话,麻烦说明一下是哪个?谢谢
lyhoo163 2018-05-28
  • 打赏
  • 举报
回复
1、读取EXCEL时,不用OLE模式,第三方控件比较快。 2、开辟多线程,分别读取数据。 3、提高硬件读取速度,好机器可加快速度。
第1章 窗体与界面设计 1 1.1 菜单应用 2 实例001 在系统菜单添加菜单项 2 实例002 带历史信息的菜单 3 实例003 菜单动态合并 4 实例004 像“开始”菜单一样漂亮的菜单 5 实例005 多彩的菜单 6 实例006 可以拉伸的菜单界面 8 1.2 工具栏设计 9 实例007 带背景的工具栏 9 实例008 浮动工具栏 10 1.3 状态栏设计 11 实例009 在状态栏显示检查框 11 实例010 带进度条的状态栏 12 实例011 状态栏加入图标 13 1.4 导航菜单界面 14 实例012 OutLook界面 14 实例013 带导航菜单的主界面 15 实例014 图形化的导航界面 16 1.5 特色程序界面 18 实例015 类QQ的程序界面 18 实例016 类似Windows XP的程序界面 20 实例017 以图形按钮显示的界面 21 实例018 以树型显示的程序界面 23 实例019 以XPManifest组件显示界面 24 实例020 动态按钮的窗体界面 25 1.6 特殊形状的窗体 26 实例021 非矩形窗体 26 实例022 建立字体形状窗体 28 1.7 多媒体光盘 29 实例023 自动启动的多媒体光盘程序 29 实例024 为触摸屏程序添加虚拟键盘 30 实例025 触摸屏系统 31 1.8 窗体效果 33 实例026 半透明渐显窗体 33 实例027 窗口颜色的渐变 34 实例028 带背景的窗体 35 实例029 为窗体增加边框 36 1.9 窗体动画 37 实例030 窗体的滚动字幕 37 实例031 动画显示窗体 38 实例032 制作闪烁的窗体 39 实例033 直接在窗体上绘图 40 实例034 动画形式的程序界面 41 实例035 以时钟显示界面窗体 42 1.10 标题栏窗体 44 实例036 标题栏上的按钮 45 实例037 使窗体标题栏文字右对齐 47 实例038 没有标题栏但可以改变大小的窗口 48 1.11 设置窗体位置 49 实例039 不可移动的窗体 49 实例040 设置窗体在屏幕的位置 50 实例041 始终在最上面的窗体 51 1.12 设置窗体大小 52 实例042 限制窗体大小 52 实例043 获取桌面大小 53 实例044 组件大小随窗体的改变而改变 53 实例045 在窗口间移动按钮 54 实例046 如何实现Office助手 55 1.13 窗体控制技术 56 实例047 在关闭窗口前加入确认对话框 56 实例048 程序在循环响应界面操作 57 实例049 使用任意组件拖动窗体 58 实例050 动态创建窗体和释放窗体 59 实例051 修改提示字体及颜色 60 1.14 其他技术 61 实例052 窗口融合技术 61 实例053 给MDI窗体加背景 62 实例054 如何关闭MDI类型窗体的子窗体 63 实例055 向提示框添加图标 64 第2章 控件应用 67 2.1 TEdit控件应用典型实例 68 实例056 从右至左输入数据 68 实例057 为TEdit控件添加列表选择框 69 实例058 只允许输入数字的TEdit组件 70 2.2 TSpeedButton控件应用典型实例 71 实例059 在TSpeedButton按钮显示图标 71 实例060 折行显示按钮标题 72 2.3 TMemo控件应用典型实例 73 实例061 设置TMemo组件的边界 73 实例062 TMemo组件的光标定位 74 实例063 得到TMemo的可见行数 75 2.4 TListBox控件应用典型实例 76 实例064 在TListBox组件间交换数据 76 实例065 为TListBox添加水平滚动条 77 实例066 将数据数据添加到组合框 78 实例067 借助绑定控件实现数据选择录入 79 2.5 TListView控件应用典型实例 80 实例068 TListView列表拒绝添加重复信息 80 实例069 将数据数据添加到TListView控件 82 实例070 用TListView控件制作导航界面 83 实例071 在TListView控件数据排序或统计 84 实例072 在TListView组件绘制底纹 86 实例073 在列表视图拖动视图项 87 2.6 TTreeView控件应用典型实例 88 实例074 将数据数据显示到树视图 88 实例075 用TTreeView控件制作导航界面 90 实例076 TTreeView组件遍历磁盘目录 91 实例077 TTreeView组件在数据的应用 92 2.7 TStringGrid控件应用典型实例 94 实例078 程序运行时对

2,497

社区成员

发帖
与我相关
我的任务
社区描述
Delphi 数据库相关
社区管理员
  • 数据库相关社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧