社区
数据仓库
帖子详情
做ETL抽取的时候,会锁数据源的库表吗?
halhalhal
2009-09-28 06:57:28
今天客户说自己的业务系统崩溃了 - -
说是因为半夜ETL抽数据时,怎么着把数据源的数据库给锁住了,后来ETL没有成功,就把业务系统给弄死了,我听的觉得好奇怪啊,没遇见过这种情况啊,按说抽数据只是读操作,会锁数据源表吗?
如果ETL没有成功,假如进入了一个死循环,一直在跑,是不是会将数据源的业务系统弄崩溃呢?
请教各位有没有类似经历呢?谢谢~
...全文
521
24
打赏
收藏
做ETL抽取的时候,会锁数据源的库表吗?
今天客户说自己的业务系统崩溃了 - - 说是因为半夜ETL抽数据时,怎么着把数据源的数据库给锁住了,后来ETL没有成功,就把业务系统给弄死了,我听的觉得好奇怪啊,没遇见过这种情况啊,按说抽数据只是读操作,会锁数据源表吗? 如果ETL没有成功,假如进入了一个死循环,一直在跑,是不是会将数据源的业务系统弄崩溃呢? 请教各位有没有类似经历呢?谢谢~
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
24 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
heisei1984
2010-07-12
打赏
举报
回复
数据量过大,同时发生抽取一张表的任务过多会导致数据库deadlock
lament_gates
2010-07-06
打赏
举报
回复
不会的,抽数据都是抽历史数据,锁也是锁历史数据,不会影响你生产库的。
Me_online
2010-07-06
打赏
举报
回复
不论什么数据库系统,也不论什么软件,也不论锁不锁,首先这个结构设计就有问题。一个大的ETL 通常根本不直接读取源数据,而是读取源数据的Snapshot。
adanssxz
2010-06-22
打赏
举报
回复
应该不会的。。。楼主你们是从表抽取到文件吗?
chenlong9610
2010-06-13
打赏
举报
回复
顶一下!
taoyilovetaozy
2010-04-09
打赏
举报
回复
在DB2中锁表是经常出现的,尤其是8.2的版本,最好不要直接去数据源库中直接去抽取,卸成文件比较好,对文件的装载,这样不会影响生产系统。
《多平台异构数据库复制技术研究》可以探讨,我也实施了一个类似的项目,taoyi518@gmail.com
zhaojianmi1
2010-04-09
打赏
举报
回复
是不是深夜还有业务发生,和ETL任务冲突,造成死锁
建议查看有没有相关索引,对ETL过程进行了优化
zswangg
2010-04-08
打赏
举报
回复
不会.
npabc
2010-03-30
打赏
举报
回复
资源不够用!
fb777
2010-03-15
打赏
举报
回复
只有可能是资源不够用!
yuecn123
2010-03-14
打赏
举报
回复
应该不会啦
innovate911
2010-03-13
打赏
举报
回复
如果你抽取的数据量很大,而且当时还在做业务的话,可能会抢IO资源,导致其他应用没法跟你抢资源。所以这个瓶颈并非数据库原因,不是锁表造成。
luyi6101
2010-03-11
打赏
举报
回复
也有可能,你select的数据过大,引起系统资源不够,造成业务系统崩溃
chyf212
2010-03-10
打赏
举报
回复
要具体问题具体分析,
而且重要的一点是要看什么数据库了
像INFORMIX,DB2都会有锁表的情况出现
faxianzhu
2010-03-09
打赏
举报
回复
大家好,感谢您在百忙之中给予我的关注,再次谢谢!
由于我最近需要搞一个设计,题目就是 《多平台异构数据库复制技术研究》 我在网上找了很多资料,找到的都只有论文,基本上没有关于这设计的源代码,所以我来到这里请大家帮忙, 如果有那位高手有或者会写关于我这个题目的源代码请联系我! 也可以直接加QQ493991609再详谈! 代价好说!
sdhzsn
2010-03-09
打赏
举报
回复
dddddddddddddddddddddddddddddddddddddddddddddd
Zero2One
2010-03-09
打赏
举报
回复
支持楼上回答,DB2有可能会锁表。
但是一般做etl的时候都是深夜,会有相应的时间戳去取数据,锁机制应该会是最低的,不应该锁表才对。
或渊在田
2010-03-04
打赏
举报
回复
锁不锁需要看业务系统采用的是什么样的数据库系统。oracle读数据从来都不锁表的
pxboy
2009-10-04
打赏
举报
回复
锁不锁要看有没有必要,这样的贴就算好贴,说明论坛实在是没有质量
sxchen999
2009-10-01
打赏
举报
回复
应该不会。分析一下其他原因
加载更多回复(2)
很全的
ETL
学习资料
BI项目中
ETL
设计与思考.docx DataStage(
ETL
)技术总结.docx
ETL
增量
抽取
.docx
ETL
增量
抽取
方式.docx
ETL
工具点评.docx
ETL
常见性能瓶颈.docx
ETL
构建企业级数据仓库五步法.docx
ETL
高级教程.docx 三大主流
ETL
工具选型.docx 什么是
ETL
.docx 商业智能 通过SSIS设计
ETL
来将Oracle,DB2,Sybase等
数据源
的数据定期导入到数据仓库.docx 商务智能(BI)的四大关键技术-
ETL
(
抽取
(Extract)、转换(Transform)和加载(Load)).docx 选择合适的
ETL
工具满足数据整合性能挑战.docx
数据仓库3_
ETL
_数据
抽取
在来源表系统中添加系统日志表,当业务数据发生变化时,更新维护日志表内容.当
ETL
加载时,通过读日志表数据决定
抽取
哪些数据及如何
抽取
.例如使用Mysql的binlog.
ETL
是指将业务系统的数据经过
抽取
、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据.(1) 确定
数据源
:
数据源
的访问方式,
数据源
的形式(是数据库还是手工数据,是否存在非结构化的数据)等.缺点:时戳维护需要由来源表系统完成,需要修改来源表的结构.工作量大,改动面大.
ETL
异构
数据源
同步datax/全量/增量/定时同步视频教程
ETL
异构
数据源
同步datax视频教程/全量/增量/定时同步。 DataX 是阿里开源的一个异构
数据源
离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构
数据源
之间稳定高效...
ETL
数据
抽取
方案
ETL
过程中的主要环节就是数据
抽取
、数据转换和加工、数据装载。为了实现这些功能,
ETL
工具会进行一些功能上的扩充,例如工作流、调度引擎、规则引擎、脚本支持、统计信息等。 一、数据
抽取
数据
抽取
是从
数据源
中
抽取
数据的过程。实际应用中,
数据源
较多采用的是关系数据库。 从数据库中
抽取
数据一般有以下几种方式: 1.全量
抽取
全量
抽取
类似于数据迁移或数据复制,它将
数据源
中的表或视图的数据原封不动的从数 ...
从多个
数据源
中提取数据进行
ETL
处理并导入数据仓库
本文介绍了如何使用Python进行
ETL
数据处理的实战案例,包括从多个
数据源
中提取数据、对数据进行清洗和转换,以及将转换后的数据加载到目标系统中进行存储和分析。在实际工作中,
ETL
是数据处理的重要环节,它可以帮助我们从多个
数据源
中提取、清洗和整理数据,以便进行更好的数据分析和业务决策。在本次实战案例中,我们使用了pandaspymongo和pymysql等Python库,它们提供了丰富的数据处理和数据库操作方法,帮助我们完成了数据
ETL
的整个过程。
数据仓库
7,388
社区成员
6,742
社区内容
发帖
与我相关
我的任务
数据仓库
其他数据库开发 数据仓库
复制链接
扫一扫
分享
社区描述
其他数据库开发 数据仓库
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章