-->海量数据,每天5T,数据至少保存1年,使用啥数据库来解决呢?

当我遇上-你 2011-12-07 10:44:54
加精
现在的情况是有200个客户端每天传输到服务器的数据量在5T(网络传输),服务器要使用数据库把数据保存起来,要使用另外的单独的程序来读取分析数据,数据至少保存1年时间,大家推荐使用啥数据库啊,还有服务器需要啥配置呢?
...全文
23414 372 打赏 收藏 转发到动态 举报
写回复
用AI写文章
372 条回复
切换为时间正序
请发表友善的回复…
发表回复
zwl2012 2014-06-09
  • 打赏
  • 举报
回复
方案呢lz啊
越过越咸 2013-12-08
  • 打赏
  • 举报
回复
代码誊写工 2013-12-07
  • 打赏
  • 举报
回复
我采用分布式的原因和前面有人提到的一样,磁盘IO和网络IO,我这里做报文分析的,一天也有上T的数据采集,用的是mysql,不过采集的方式是先文本化再导入(load data)数据库,采集机和数据库是多对多的业务分片。否则根本干不了
代码誊写工 2013-12-07
  • 打赏
  • 举报
回复
商用数据库本身支持多线程多核,难道1个128核,128G内存的服务器跑一个数据库会比128个1核1G的虚拟机跑一个集群慢?
引用 379 楼 jack11430 的回复:
刚刚看了大家的回复,大家都想到服务器集群,但有一个没有想到,现在很多公司都使用SAN和服务器虚拟化,就像超级计算机一样。虚拟化服务器集群如何?绝对满足你的需要。
lene3 2013-12-06
  • 打赏
  • 举报
回复
fuck,跟了4页帖子,从11年12月跨度到13年12月了,也没有看到楼主的方案,至少透露一部分,也增加下大家的经验,坑爹的楼主。
seusoftware 2013-12-05
  • 打赏
  • 举报
回复
引用 6 楼 perfectaction 的回复:
每天5T,算了下 select 5*1024*1024/24/60/60 --60MB/s 24小时分秒不停的写数据,还要60MB/s。 这个还是咨询存储厂商看看要什么存储吧,而且一天5T,一年是1825T,这么大的存储,还没见过呢。 数据库方面,如果用sql server的话,必须分表或分区表了。
哥们回答还比较靠谱,60M/s这个还是通过网络哦。。。
xiaoxiangqing 2013-12-05
  • 打赏
  • 举报
回复
ORACLE,db2都可以
發糞塗牆 2013-12-05
  • 打赏
  • 举报
回复
引用 392 楼 king19861228 的回复:
[quote=引用 364 楼 DBA_Huangzj 的回复:] 海量数据貌似DB2会比oracle好,另外如果希望用sqlserver,那么最少也要2008了,甚至2012才顶得住那么大的数据量。
SQL server 2012 也要群集。[/quote]2012要搞cluster还不如用AlwaysOn呢
super_tiger_ 2013-12-05
  • 打赏
  • 举报
回复
引用 97 楼 qianjin036a 的回复:
[Quote=引用 94 楼 fanzhouqi 的回复:] 每天5t,我靠,纳斯达克指数 都没怎么牛b [/Quote] 上证和深证的全日交易记录加起来不过几十M.
不会这么少吧··大哥...
super_tiger_ 2013-12-05
  • 打赏
  • 举报
回复
引用 364 楼 DBA_Huangzj 的回复:
海量数据貌似DB2会比oracle好,另外如果希望用sqlserver,那么最少也要2008了,甚至2012才顶得住那么大的数据量。
SQL server 2012 也要群集。
super_tiger_ 2013-12-05
  • 打赏
  • 举报
回复
引用 97 楼 qianjin036a 的回复:
[Quote=引用 94 楼 fanzhouqi 的回复:] 每天5t,我靠,纳斯达克指数 都没怎么牛b [/Quote] 上证和深证的全日交易记录加起来不过几十M.
这么少,不会吧··大哥
發糞塗牆 2013-12-05
  • 打赏
  • 举报
回复
引用 397 楼 king19861228 的回复:
[quote=引用 394 楼 DBA_Huangzj 的回复:] [quote=引用 392 楼 king19861228 的回复:] [quote=引用 364 楼 DBA_Huangzj 的回复:] 海量数据貌似DB2会比oracle好,另外如果希望用sqlserver,那么最少也要2008了,甚至2012才顶得住那么大的数据量。
SQL server 2012 也要群集。[/quote]2012要搞cluster还不如用AlwaysOn呢[/quote] 虚拟机开多了··也是很麻烦的事情··把机器切开用·[/quote]而且cluster只是高可用,不是高性能
發糞塗牆 2013-12-05
  • 打赏
  • 举报
回复
引用 397 楼 king19861228 的回复:
[quote=引用 394 楼 DBA_Huangzj 的回复:] [quote=引用 392 楼 king19861228 的回复:] [quote=引用 364 楼 DBA_Huangzj 的回复:] 海量数据貌似DB2会比oracle好,另外如果希望用sqlserver,那么最少也要2008了,甚至2012才顶得住那么大的数据量。
SQL server 2012 也要群集。[/quote]2012要搞cluster还不如用AlwaysOn呢[/quote] 虚拟机开多了··也是很麻烦的事情··把机器切开用·[/quote]云计算就是基于虚拟技术的》。。
super_tiger_ 2013-12-05
  • 打赏
  • 举报
回复
引用 394 楼 DBA_Huangzj 的回复:
[quote=引用 392 楼 king19861228 的回复:] [quote=引用 364 楼 DBA_Huangzj 的回复:] 海量数据貌似DB2会比oracle好,另外如果希望用sqlserver,那么最少也要2008了,甚至2012才顶得住那么大的数据量。
SQL server 2012 也要群集。[/quote]2012要搞cluster还不如用AlwaysOn呢[/quote] 虚拟机开多了··也是很麻烦的事情··把机器切开用·
good_cyg 2013-12-04
  • 打赏
  • 举报
回复
严重期待楼主公布结果。。。
CAINIAO123 2013-12-01
  • 打赏
  • 举报
回复
楼主超级牛。。。。
  • 打赏
  • 举报
回复
这个还真得好好规划设计,不是一两个人能搞定的问题,肯定需要采用应用服务器集群+缓存服务器+数据库集群,你找找那个Myspace的案例,好像是1个月40亿的动态访问量吧。
contoso2012 2013-07-15
  • 打赏
  • 举报
回复
顿时惊然,,数据量这么大.... 此贴必须顶!!!
蝈蝈(GuoGuo) 2013-07-11
  • 打赏
  • 举报
回复
这个要看做什么应用?只有跟应用结合起来才可以出方案。这样太简单了。
arrow_gx 2013-07-10
  • 打赏
  • 举报
回复
太牛了,每天 5T ,等待最终解决方案开开眼界
加载更多回复(352)

27,579

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server 应用实例
社区管理员
  • 应用实例社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧