社区
C#
帖子详情
大量数据处理
lxiangcn
2010-05-28 04:13:57
数据表A,原始数据表。
查询分析,通过已经写好的规则,比如根据表里面的时间规则等等,可以分为有效数据,和无效数据。
分别转存表B,和表C。
方法实现,效果很差,10W条数据都要30分钟了。是不是方法有什么问题啊。
数据库是MYsql
...全文
103
6
打赏
收藏
大量数据处理
数据表A,原始数据表。 查询分析,通过已经写好的规则,比如根据表里面的时间规则等等,可以分为有效数据,和无效数据。 分别转存表B,和表C。 方法实现,效果很差,10W条数据都要30分钟了。是不是方法有什么问题啊。 数据库是MYsql
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
deknight
2010-05-28
打赏
举报
回复
一是mysql索引是否建了,2是语句,3是mysql用的什么形式 innodb?
lxiangcn
2010-05-28
打赏
举报
回复
可能是逻辑有问题,语句是在100W条数据下测试过写进去的,在查询分析器里测试的效果蛮好的。慢慢找问题吧。
ai_li7758521
2010-05-28
打赏
举报
回复
应该是语句须优化
皇城龙三
2010-05-28
打赏
举报
回复
可以把你的SQL语句贴上来
应该还有优化的地方
还有就是做一些关联
和一些予处理,建立个索引
这样速度会快很多
lxiangcn
2010-05-28
打赏
举报
回复
都是每次取1000条,处理完了,再接着。
Xiaoyuan245437
2010-05-28
打赏
举报
回复
你的查询语句怎么写的?
在PHP中怎么解决
大量
数据处理
的问题
... ...问题(来自lunacyfoundme) ... 我正在重建我们公司内部网,期间遇到一个与
大量
数据处理
报告有关的前一个版本的问题。此前我曾用同步处理程序代码解决过这个问题,只是运行的很慢很慢,这导致我不得不延长最大
matlab处理
大量
数据
小波去噪,一天的数据,间隔两秒采集一次温度/湿度。 首先由串口采集的温度和湿度,导入excel表中。在把excel变成mat文件。开始导入信号,小波去噪。一天的温度和湿度图像,我先用数值先plot一下图,然后就导入mat...
大量
数据处理
如何有效的应用Matlab作图
在处理
大量
的图形的时候,就可以显示出它的方便了。 一些常用的句柄 gcf —— 当前图形(figure)的句柄 gca —— 当前坐标轴(axes)的句柄 gco —— 当前对象(object)的句柄 双Y轴曲线的绘制 ...
SXSSFWorkbook写入
大量
数据的两点处理
初用SXSSFWorkbook,感觉以读写
大量
数据为买点的SXSSFWorkbook,提供出了两个API,作为对
大量
数据处理
的方式。这里对这两个API做一个小总结。 构造入参rowAccessWindowSize 这个参数,会指定一个sheet可读取的...
MySQL处理
大量
数据的一些方法
一、复刻一张表的数据到另一张表(结构相同) 从当前表查询所有数据到快照表(注:快照表只比当前表多一个快照时间字段CKTIME)。由于使用框架查询出来之后再插入到快照表会牺牲掉很大性能,所以直接采用sql脚本的...
C#
110,535
社区成员
642,577
社区内容
发帖
与我相关
我的任务
C#
.NET技术 C#
复制链接
扫一扫
分享
社区描述
.NET技术 C#
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
让您成为最强悍的C#开发者
试试用AI创作助手写篇文章吧
+ 用AI写文章