社区
MS-SQL Server
帖子详情
海量数据的处理
chlei
2001-12-04 09:14:35
数据量非常大,一年下来可能有几千万的记录数量,如果按时间查询的话应该会很慢,应该如何处理呢
...全文
144
11
打赏
收藏
海量数据的处理
数据量非常大,一年下来可能有几千万的记录数量,如果按时间查询的话应该会很慢,应该如何处理呢
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
11 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
OUYAN
2001-12-05
打赏
举报
回复
如一次更新量很大,更新前,最好先删除索引 ,再建索引
还可以将特别大的表放在多个磁盘上。
ClassDialog
2001-12-05
打赏
举报
回复
添加索引
chlei
2001-12-04
打赏
举报
回复
数据采集是按分钟来取的,每分钟一条纪录
如果按一般的设计,只有一个表用来记录数据,但是如果从一个表里查数据肯定会很慢的,即使时建了索引,如果按月分流的话,一个月也有几百万条数据,速度也不会快到哪里去吧
IronPromises
2001-12-04
打赏
举报
回复
将数据流大的表尽可能地分流.
分成年表或是月表之类.
比如说有表叫TradeMaster,
那幺2000年的元旦根据后台的JOB以基表TradeMaster的结构生成
TradeMaster2000,当年对该表进行写操作.
到了2001年的元旦根据后台的JOB以基表TradeMaster的结构生成
TradeMaster2001,当年对该表进行写操作.
不过这样就要动态写操作,做报表时也要动态查询,动态union.
如果你是用Java,VC之类开发的,那幺程序不要改动太多,但如果你是用像pb这种支持嵌入式SQL的工具
就得把SQL改成动态SQL,datawindow也要用dw_1.setsqlselect(…)之类的技术处理
jassonlu
2001-12-04
打赏
举报
回复
1建有效索引,
2使用分区表,
3优化数据库
mmzxg
2001-12-04
打赏
举报
回复
使用视图,存储过程处理
sbks
2001-12-04
打赏
举报
回复
换硬件,加内存,把大数据量表放到内存去,1G内存够了吧
laser
2001-12-04
打赏
举报
回复
1。如果你的空间足够的话,建立聚簇类型索引
2。如果你使用oracle8 for unix,将数据分区
3、如果可能,根据需要优化查询语句,
chlei
2001-12-04
打赏
举报
回复
那你解决了没有呢
xhfjy
2001-12-04
打赏
举报
回复
呵,我也有这问题
net_steven
2001-12-04
打赏
举报
回复
海量数据要用海量处理速度的服务器,所谓软硬兼施嘛!不能单纯依靠软件技术,
这也是常识,非要瘦驴拉硬屎—也只好忍耐将就喽!
Hadoop
海量
数据
处理
:技术详解与项目实战 pdf
影印资料, 本人不负责下载者任何其他后果
微软面试100题系列之高清完整版PDF文档[带目录+标签]by_July
截取本blog索引性文章:程序员面试、算法研究、编程艺术、红黑树、
数据
挖掘5大系列集锦:http://blog.csdn.net/v_july_v/article/details/6543438,中的第一部分编辑而成,涵盖了
数据
结构、算法、
海量
数据
处理
等3大...
基于阿里云的
海量
数据
处理
数据
仓库(离线)实战教程
搭建高可用的、高可靠的Flume
数据
采集通道,运用阿里云DateHub构建中间缓冲队列并担任
数据
分发枢纽将
数据
推送至阿里自主研发的DataWorks对
数据
进行分层
处理
,采用MaxCompute作为
处理
海量
数据
的方案,将计算结果保存...
Hadoop权威指南 中文版
本书从hadoop的缘起开始,由浅入深,结合理论和实践,全方位地介绍hado叩这一高性能
处理
海量
数据
集的理想工具。全书共14章,3个附录,涉及的主题包括:haddoop简介:mapreduce简介:hadoop分布式文件系统;hadoop的i...
海量
数据
处理
面试题集锦
十七道
海量
数据
处理
面试题与Bit-map详解作者:小桥流水,redfox66,July。前言 本博客内曾经整理过有关
海量
数据
处理
的10道面试题(十道
海量
数据
处理
面试题与十个方法大总结),此次除了重复了之前的10道面试题之后...
MS-SQL Server
34,590
社区成员
254,589
社区内容
发帖
与我相关
我的任务
MS-SQL Server
MS-SQL Server相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章