社区
疑难问题
帖子详情
大数据量的性能问题
littlechang
2005-08-01 10:36:28
对于一个每天产生的数据记录为100万条的数据库(平均分布于两个表中),如何才能有效的提高数据检索的速度?。
我测试时使用的机器配置为C1.8G,768M内存,只有一个查询点(web),就经常提示数据连接超时。
实际中可能会有几十个点同时查询(内容不一样),峰值可能要上千个点同时查询。
服务器的配置要多少才能比较好呢?请高手给点建议吧。
...全文
190
6
打赏
收藏
大数据量的性能问题
对于一个每天产生的数据记录为100万条的数据库(平均分布于两个表中),如何才能有效的提高数据检索的速度?。 我测试时使用的机器配置为C1.8G,768M内存,只有一个查询点(web),就经常提示数据连接超时。 实际中可能会有几十个点同时查询(内容不一样),峰值可能要上千个点同时查询。 服务器的配置要多少才能比较好呢?请高手给点建议吧。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
lzymagi
2005-08-01
打赏
举报
回复
最起码要双CPU,2G以上的内存。
做个备份服务器更好,把一些查询分流到备份服务器,另外就是索引和平台的设计问题了。
子陌红尘
2005-08-01
打赏
举报
回复
每个表的数据量尽量控制在1,000,000条记录以内,然后辅助以合理的索引。
当然,表应该分布在多个物理磁盘上或者使用磁盘阵列,这样才能保障得到并行的I/O效率。
littlechang
2005-08-01
打赏
举报
回复
谢谢libin_ftsafe(子陌红尘) ,我已经在考虑表分区了,之前没有做过这么多记录的数据库系统。
把1,000,000条记录分到1000个以上的表中,应该基本能解决这个问题了吧
子陌红尘
2005-08-01
打赏
举报
回复
单纯从硬件考虑只是优化过程的一个方面,对于每天产生1,000,000条记录的系统而言,表分区势在必行。
从硬件角度的而言,磁盘I/O是一个不容忽视的环节,而当前系统的主要瓶颈就在于I/O效率,分区视图结合磁盘阵列可以以并行I/O的方式提高数据的检索性能。
littlechang
2005-08-01
打赏
举报
回复
To libin_ftsafe(子陌红尘):
可能有一点我没有说清楚,我现在测试用的机器决不是实际使用中的服务器,实际的服务器计划使用P4 2.8G*2,2G内存,不知性能能得到多大的提高,可否满足上面的要求?
子陌红尘
2005-08-01
打赏
举报
回复
初期的设计不合理,按眼下的形势,再高的硬件配置也还是解决不了问题。
1、对大表进行分区,将数据按照时间划分成多个表,通过分区视图关系起来
2、建立合理的索引
3、采用磁盘阵列,并行I/O以提高数据检索的效率
4、升级硬件配置,按楼主的描述,即使配置最高档的PC服务器也是有必要的
解决mongo
大数据
量
下复杂查询的
性能
问题
解决mongo
大数据
量
下复杂查询的
性能
问题
本篇背景是我们获取应用运行时产出的日志,做展示。比如机器人运行时日志,用户问句对应意图这些信息,对于业务方是关注的, 他可以检索相关日志信息,对不正确问句意图进行重新标注。然而该机器人运行日志每小时千万级,当时我们系统也只保存2个月数据, 并存放在mongo中的,最终日志会同步给数据平台,所有我们并没有使用hbase和hive这类存储。 mongo 游标 游标不是查询结果,而是查询的一个返回资源或者接口,通过这个接口,可以逐条读取数据。 就类似java中的读取文件
优化
大数据
量
下 Echarts 的
性能
问题
b. 延迟加载:对于一些复杂的交互操作,可以延迟加载相关的数据或计算,避免在页面加载时就进行耗时的操作,提高页面的初始加载速度。有时候,选择简单的图表类型可能比复杂的图表类型更高效。a. 关闭动画效果:动画效果会增加图表的渲染时间,对于
大数据
量
的图表来说,可以考虑关闭动画效果,以提高渲染
性能
。c. 数据过滤:如果数据中存在一些无关的信息或噪音,可以考虑在渲染之前对数据进行过滤,只保留需要展示的数据。c. 数据缓存:如果图表中的数据在交互过程中频繁变动,可以考虑使用数据缓存的方式,避免重复的数据计算和渲染。
vue渲染大
量
数据如何优化_
大数据
量
场景下的Vue
性能
优化
性能
优化最常见的落脚点是在网络和dom上,但是在
大数据
量
的场景下,由于Vue本身的特性,可能会造成js运行层面的
性能
问题
,这篇文章讨论的就是针对这一部分的
性能
优化方案。模拟一个
大数据
量
的场景// App.vueIt's {{ firstUser.name }}'s show timetotal: {{ total }}const user = []let i = 0while (i++ < 500...
js大
量
数据计算
性能
优化
js大
量
数据计算
性能
优化测试相关内容1. forEach和for循环2. `indexOf`的效率
问题
3. 遍历时的浅拷贝4. filter和for的
性能
比较15. filter和for的
性能
比较26. 数据去重
问题
1 (数组去重)7. 数据去重
问题
2 (数组对象去重) 测试相关内容 浏览器版本:Chrome 89.0+ ECMAScript: ES5+ 测试结果:多次测试随机取值 数据
量
:100万或1000万 –备注– 由于是做大
量
数据计算的
性能
优化,基本不考虑百万级数据以下的计算。 本次测试是为了检
Mysql.8.0 与 MongoDB.4.2
大数据
量
查询
性能
对比
目录 摘要 1测试环境以及测试用例设计 1.1测试环境 1.2测试用例设计 2百万级数据
量
性能
测试对比 2.1数据总
量
2.2
性能
测试报告 2.3图表分析与总结 3 千万级数据
量
性能
测试对比 3.1 数据总
量
3.2
性能
测试报告 3.1数据总
量
3.2
性能
测试报告 3.3图表分析 4 总结 摘要 项目中使用MySQL存储采集的数据,但是查询遇到了
性能
瓶颈,前一段...
疑难问题
22,209
社区成员
121,731
社区内容
发帖
与我相关
我的任务
疑难问题
MS-SQL Server 疑难问题
复制链接
扫一扫
分享
社区描述
MS-SQL Server 疑难问题
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章