社区
疑难问题
帖子详情
如何解决大数据量的数据库维护?
戈壁上的月光
2013-03-01 05:08:41
情况是这样的,我们系统,每天都会有很大的数据写入到数据库。这么大的数据量在查询的时候就显的很慢,现在想分成两个库一个静态库一个动态库,静态库保存基础数据,动态库保存生产业务数据。每隔一段时间自动生成一个新的动态库然后数据写入到这个新库,查询的时候系统能够根据日期自动匹配到对应的历史动态库。请问该怎么实现?
...全文
1905
31
打赏
收藏
如何解决大数据量的数据库维护?
情况是这样的,我们系统,每天都会有很大的数据写入到数据库。这么大的数据量在查询的时候就显的很慢,现在想分成两个库一个静态库一个动态库,静态库保存基础数据,动态库保存生产业务数据。每隔一段时间自动生成一个新的动态库然后数据写入到这个新库,查询的时候系统能够根据日期自动匹配到对应的历史动态库。请问该怎么实现?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
31 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
苦苦的潜行者
2013-03-16
打赏
举报
回复
没见过5亿的数据...
Q315054403
2013-03-16
打赏
举报
回复
数据量大小不是规划设计的全部因素,数据如何使用、性能平衡、如何管理才是重要因素 只有充分理解数据应用需求,才会有准确的设计方案
最爱午夜
2013-03-16
打赏
举报
回复
我觉得用分区和历史表切换分区的方法最好, 先分区,通过切换分区到历史表定时的把数据老化,然后再把老化数据迁移到历史库,这样可以保证在线操作,而且数据库在切换分区时不会印象数据库的正常运行。
tansx
2013-03-12
打赏
举报
回复
看看大家是怎么解决这个问题的
warlock
2013-03-11
打赏
举报
回复
建立中心库,中心库记录每个分库的地址、登录名、密码、功能等信息,程序里面根据时间或者业务逻辑直接去中心库找新增加的新库地址,然后从新库中取数据即可;中心库中,分库还可以根据功能进行定时增加或手动增加;
悟迟
2013-03-05
打赏
举报
回复
引用 12 楼 harvest2006 的回复:
数据量预计在5亿条 每天,这个数据量放到一个库可以吗?
这么多啊
戈壁上的月光
2013-03-04
打赏
举报
回复
相关分库、分区、数据转移的资料可否提供一些?
Q315054403
2013-03-02
打赏
举报
回复
分区最灵活。。仔细设计文件组与磁盘文件分布
zhangfk
2013-03-02
打赏
举报
回复
还是把过期的数据到历史库。
linwaterbin
2013-03-02
打赏
举报
回复
这是个大炕啊
line_us
2013-03-02
打赏
举报
回复
数据大了, 操作起来就出现些新问题。
DBA_磊仔
2013-03-01
打赏
举报
回复
每天5亿又如何,只要你不是每次查询需要读取5亿数据,不过我考虑这样大的数据量,是要做好分区的。如果要用到报表数据,还要尽可能的物理存储报表,不要经常性的读取大量数据
發糞塗牆
2013-03-01
打赏
举报
回复
当然你的硬件要足够强大。不然I/O可能会成为瓶颈
haitao
2013-03-01
打赏
举报
回复
相当于: 静态库(基础库) 动态库(当前库) 历史库(动态库的旧数据,无须再分多个了,它大、慢一点不影响业务速度)
發糞塗牆
2013-03-01
打赏
举报
回复
库是一年分一个,表是每个月一个
戈壁上的月光
2013-03-01
打赏
举报
回复
? 有点不明白了,我是该分库呢还是表分区?
發糞塗牆
2013-03-01
打赏
举报
回复
引用 12 楼 harvest2006 的回复:
数据量预计在5亿条 每天,这个数据量放到一个库可以吗?
可以,SQLServer2005支持TB级别的都没问题,不过你可以根据业务来分库,比如你的业务经常只需要查询一个月或者一年的数据,那么就按照这个单位来分库。
happytonice
2013-03-01
打赏
举报
回复
引用 12 楼 harvest2006 的回复:
数据量预计在5亿条 每天,这个数据量放到一个库可以吗?
不是一个库的问题,多准备几台机器
戈壁上的月光
2013-03-01
打赏
举报
回复
数据量预计在5亿条 每天,这个数据量放到一个库可以吗?
happytonice
2013-03-01
打赏
举报
回复
思路基本这样,具体实现用存储过程,或在业务层实现业务逻辑
加载更多回复(10)
MySQL
数据库
如何
解决
大数据
量
存储问题
利用MySQL
数据库
如何
解决
大数据
量
存储问题? 各位高手您们好,我最近接手公司里一个比较棘手的问题,关于如何利用MySQL存储
大数据
量
的问题,主要是
数据库
中的两张历史数据表,一张模拟
量
历史数据和一张开关
量
历史数据表,这两张表字段设计的很简单(OrderNo,Value,DataTime)。基本上每张表每天可以增加几千万条数据,我想问如何存储数据才能不影响检索速度呢?需不需要换oracle数据
利用MySQL
数据库
如何
解决
大数据
量
存储问题?
各位高手您们好,我最近接手公司里一个比较棘手的问题,关于如何利用MySQL存储
大数据
量
的问题,主要是
数据库
中的两张历史数据表,一张模拟
量
历史数据和一张开关
量
历史数据表,这两张表字段设计的很简单(OrderNo,Value,DataTime)。基本上每张表每天可以增加几千万条数据,我想问如何存储数据才能不影响检索速度呢?需不需要换oracle
数据库
呢?因为我是
数据库
方面的新手,希望可以说的详细一点,
数据库
大数据
量
的优化方案
在系统开发的初期以及使用的初期,一般不会太过于在意
数据库
的设计以及sql语句的优化,这就会导致系统有可能在日积月累的海
量
数据下越来越慢直至崩溃,所以以后在系统
数据库
设计之初完备的
数据库
模型的设计是必须的。 优化
数据库
方案 对于
数据库
的的优化此处给出三种优化方案: 1.优化现有mysql
数据库
优点:不影响现有业务,源程序不需要修改代码,成本最低 缺点:有优化瓶颈,数据
量
过亿就无法继续支撑相应的业务 2.升级
数据库
类型,换一种100%兼容mysql的
数据库
优点:不影响现有业务,源程序不需要修改代码,你几
Mysql 单表适合的最
大数据
量
是多少?如何优化其性能?
Mysql 单表适合的最
大数据
量
是多少? 我们说 Mysql 单表适合存储的最
大数据
量
,自然不是说能够存储的最
大数据
量
,如果是说能够存储的最大
量
,那么,如果你使用自增 ID,最大就可以存储 2^32 或 2^64 条记录了,这是按自增 ID 的数据类型 int 或 bigint 来计算的;如果你不使用自增 id,且没有 id 最大值的限制,如使用足够长度的随机字符串,那么能够限制单表最
大数据
量
的就只剩磁盘空间了。显然我们不是在讨论这个问题。 影响 Mysql 单表的最优最大数
量
的一个重要因素其实是索引。 我
什么是
数据库
?什么是
数据库
管理系统? 说明两者的区别和联系。
1、
数据库
(简称DB): 是长期存储在计算机内、有组织的、可共享的大
量
数据的集合。 2、
数据库
管理系统(简称DBMS): 是一种操纵和管理
数据库
的大型软件,用于建立、使用和
维护
数据库
。即位于用户和操作系统之间的一层数据管理软件,是基础软件,是一个大型复杂的软件系统。 3、区别和联系: 区别:
数据库
为大
量
数据集合,而
数据库
管理系统为一套用于建立、
维护
和管理
数据库
的软件。 联系: 通过
数据库
管理系统可以管理
数据库
,进行数据的定义、数据的操纵、数据的控制和
维护
等功能。 ...
疑难问题
22,210
社区成员
121,726
社区内容
发帖
与我相关
我的任务
疑难问题
MS-SQL Server 疑难问题
复制链接
扫一扫
分享
社区描述
MS-SQL Server 疑难问题
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章