当数据很多,程序处理满较慢时,大家是如何解决的?

istring 2005-11-16 04:20:22
如题
...全文
119 6 打赏 收藏 转发到动态 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
s5689412 2005-11-16
  • 打赏
  • 举报
回复
多线程异步处理,可以预处理或者滞后处理的数据分离出来,可以使用DataReader的尽量使用。
在界面上使用进度条,尽量让用户感到时间可以掌控,这样他们的感觉会好些。
hainang1234 2005-11-16
  • 打赏
  • 举报
回复
优化是一点。不过再优化也有极限。
如果太久可以提供等待界面,使界面友好化。
像163,google的邮箱等。
istring 2005-11-16
  • 打赏
  • 举报
回复
收获颇多!1
jxufewbt 2005-11-16
  • 打赏
  • 举报
回复
优化sql语句,少用游标,用存储过程,如果是数据的显示,采用分页,每次只把当前页的数据查询出来。
hexinyu2005 2005-11-16
  • 打赏
  • 举报
回复
分析
JzeroBiao 2005-11-16
  • 打赏
  • 举报
回复
优化,优化不行就换机子去吧~
上层应用业务对实数据的需求,主要包含两部分内容:1、 整体数据的实分析。2、 AB实验效果的实监控。这几部分数据需求,都需要进行的下钻分析支持,我们希望能够建立统一的实OLAP数据仓库,并提供一套安全、可靠的、灵活的实数据服务。目前每日新增的曝光日志达到几亿条记录,再细拆到AB实验更细维度数据量则多达上百亿记录,多维数据组合下的聚合查询要求秒级响应间,这样的数据量也给团队带来了不小的挑战。OLAP层的技术选型,需要足以下几点:1:数据延迟在分钟级,查询响应间在秒级2:标准SQL交互引擎,降低使用成本3:支持join操作,方便维度增加属性信息4:流量数据可以近似去重,但订单行要精准去重5:高吞吐,每分钟数据量在千W级记录,每天数百亿条新增记录6:前端业务较多,查询并发度不能太低通过对比开源的几款实OLAP引擎,可以发现Doris和ClickHouse能够足上面的需求,但是ClickHouse的并发度太低是个潜在的风险,而且ClickHouse的数据导入没有事务支持,无法实现exactly once语义,对标准SQL的支持也是有限的。所以针对以上需求Doris完全能解决我们的问题,DorisDB是一个性能非常高的分布式、面向交互式查询的分布式数据库,非常的强大,随着互联网发展,数据量会越来越大,实查询需求也会要求越来越高,DorisDB人才需求也会越来越大,越早掌握DorisDB,以后就会有更大的机遇。本课程基于真实热门的互联网电商业务场景为案例讲解,具体分析指标包含:AB版本分析,下砖分析,营销分析,订单分析,终端分析等,能承载海量数据的实分析,数据分析涵盖全端(PC、移动、小程序)应用。整个课程,会带大家实践一个完整系统,大家可以根据自己的公司业务修改,既可以用到项目中去,价值是非常高的。本课程包含的技术:开发工具为:IDEA、WebStormFlink1.9.0DorisDBHadoop2.7.5Hbase2.2.6Kafka2.1.0Hive2.2.0HDFS、MapReduceFlume、ZookeeperBinlog、Canal、MySQLSpringBoot2.0.8.RELEASESpringCloud Finchley.SR2Vue.js、Nodejs、Highcharts、ElementUILinux Shell编程等课程亮点:1.与企业接轨、真实工业界产品2.DorisDB高性能分布式数据库3.大数据热门技术Flink4.支持ABtest版本实监控分析5.支持下砖分析6.数据分析涵盖全端(PC、移动、小程序)应用7.主流微服务后端系统8.天级别与小级别多间方位分析9.数据库实同步解决方案10.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS+ElementUI11.集成SpringCloud实现统一整合方案12.互联网大数据企业热门技术栈13.支持海量数据的实分析14.支持全端实数据分析15.全程代码实操,提供全部代码和资料16.提供答疑和提供企业技术方案咨询企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  版权归作者所有,盗版将进行法律维权。 

110,568

社区成员

发帖
与我相关
我的任务
社区描述
.NET技术 C#
社区管理员
  • C#
  • Web++
  • by_封爱
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

让您成为最强悍的C#开发者

试试用AI创作助手写篇文章吧