求每天千万数据量的插入或更新一张大表高效存储过程

lffsonic 2011-04-08 04:12:28
1.已经写了一个视图,统计每天十几张基础表的增量数据。视图统计中有每个基础表的ID,排序视图中操作时间,按时间再根据ID更新或插入到总表中相应字段。
2.每天的十几张表的增量数据大概1K万左右。
3.每个基础表都有分区,而且根据视图查询每天字段做了函数索引,所以查询视图时间很快,排序等时间可以接受。
4.总表已经建立复合分区,有全局唯一索引。
5.刚开始写了一个存储过程,执行还可以,当总表数量达到6K万后执行时间很慢。
6.我写的存储过程是先把视图放入游标,遍历视图,判断总表中是否有重复记录,根据当前基础表ID,插入或更新总表的相应字段。
7.使用了nologging,和分批提交数据,性能没有根本改善。
8.考虑过使用把增量数据放入临时表中,然后使用marge into 批量更新,但是要根据基础表ID判断要更新字段,而且必须按时间排序操作。

请教各位大神,有什么好的思路。
...全文
400 9 打赏 收藏 转发到动态 举报
写回复
用AI写文章
9 条回复
切换为时间正序
请发表友善的回复…
发表回复
lffsonic 2011-04-18
  • 打赏
  • 举报
回复
现在只是在PC上面跑,不知道到小型机服务器上面跑,性能提升多少
lffsonic 2011-04-16
  • 打赏
  • 举报
回复
[Quote=引用 7 楼 davidefiled 的回复:]

用中间过程临时表吧,不建议用游标,尤其在大数据量情况下
[/Quote]

其实游标性能对被人误解了,一般存储过程sql对会放入游标进行操作,只是PGA的游标区内存大小设置好,游标的性能还是很高,毕竟是内存操作
DavideFiled 2011-04-15
  • 打赏
  • 举报
回复
用中间过程临时表吧,不建议用游标,尤其在大数据量情况下
lffsonic 2011-04-15
  • 打赏
  • 举报
回复
[Quote=引用 4 楼 fengyarongaa 的回复:]

如果真有这么大量的数据就分表吧
[/Quote]

可是分表,我要是更新数据呢,而且是大量数据,不可能扫描多个表然后更新
ycproc 2011-04-09
  • 打赏
  • 举报
回复
如果真有这么大量的数据就分表吧
lffsonic 2011-04-09
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 hanks_gao 的回复:]

在基础表上建Trigger,把插入或更新的时间分散开,可否满足要求?
[/Quote]

问题是要按视图统计基础表的操作时间排序后再进行插入或更新的
hanks_gao 2011-04-08
  • 打赏
  • 举报
回复
在基础表上建Trigger,把插入或更新的时间分散开,可否满足要求?
coolkisses 2011-04-08
  • 打赏
  • 举报
回复
越看越是不明白,这张视图只是统计,怎么又会涉及更新?

能否请说一下,要想做什么?
课程简介:Oracle 11G 完整的课程体系,从安装到入门到项目实战开发,整个学习过程,都以实践操作为主,大量的案例,实例,作业,来保证学习,练习,直到具备数据分析师,掌握SQL部分,能达到数据库开发工程师的能力要与水平,SQL查询,数据库对象,索引,视图,分区表,优化等等实现从事数据分析师所具备的的数据处理能力,结合存储过程开发与使用,能更好的结合业务需来完成对指标的统计与分析。 课程收益你将获得:    数据分析师SQL实战    掌握Oracle数据库全部技能    数据分析师入门操作    数据库开发工程师    独立开发数据库需    SQL纯实战应用    具备数据处理,数据存储技能    具备数据仓库架构师思维与应用 1、建议每天保证2个小时学习时间,加以练习实操2、每节课后的练习案例动手实践,方能记忆深刻3、学完知识点后举一反三,应用到实际工作中 课程亮点:Oracle全集包含服务器搭建,客户端使用,入门步骤,SQL各查询实现,条件查询,分组,聚合函数,正则表达式,高级函数,连接查询,多表查询,子查询,数据插入更新,删除,数据库对象,如表,视图,索引,同义词,分区表,存储过程存储过程大量案例,项目开发等等内容丰富,各知识点都配置相应的作业及解答过程,真正实例与案例操作,学会Oracle各种操作,满足实际业务工作需要,真正做到事半功倍,以实践工作出发完成各知识点的学习与应用,掌握数据库相关的技能 适合人群: 数据分析师,数据库开发人员,技能提升,数据库应用,在校学生,零基础入门,项目开发,初,中,高级数据库开发工 程师,ETL开发,数据仓库架构,数据运维,企业开发,数据管理,数据质量等。 老师介绍:SUN老师高级数据分析专家,有着丰富的BI项目开发工作经验,具备数仓各方面的数据治理,指标开发,业务梳理,口径开发,曾相继在中国移动,亚信,文思任职高级项目开发,专业领域BI,数据分析,维度与指标展示,数仓流程开发,可视化等相关技术 ,有完备的数据分析理论知识与应用,在数据分析,数据处理,数据可视化数据建模等应用,指标统计,维度分析,多维分析等有深入研究,具备更严谨的实践技能操作。 课程大纲:

17,086

社区成员

发帖
与我相关
我的任务
社区描述
Oracle开发相关技术讨论
社区管理员
  • 开发
  • Lucifer三思而后行
  • 卖水果的net
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧