社区
Hadoop生态社区
帖子详情
求助!ETL流程与数据仓库的关系
weixin_43435378
2019-05-27 07:23:59
首先数据通过见到的清洗 格式化 吧数据存到 ods 层
然后 ods 层 到 dw 层 做了什么操作
dw层 到da层 做了什么操作 最后用户画像是不是在这层做的????
...全文
155
1
打赏
收藏
求助!ETL流程与数据仓库的关系
首先数据通过见到的清洗 格式化 吧数据存到 ods 层 然后 ods 层 到 dw 层 做了什么操作 dw层 到da层 做了什么操作 最后用户画像是不是在这层做的????
复制链接
扫一扫
分享
举报
写回复
配置赞助广告
用AI写文章
1 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
4qw
2019-05-28
打赏
举报
回复
数据到了ods时,基本上经过处理,相对而言都是有效的原数据;
到dw的过程中,会对ods中的数据做一些统计,有些是很复杂的维度统计,最后 形成事实表,
维度表等类似的表信息,这一步就是形成数据仓库,或者数据集市的过程;
之后涉及到的数据分析,数据挖掘,或者用户画像的信息都来自于dw,dw中的这些信息经过统计处理,
数据量没有那么大,同时基本上都是可用的有效数据;
至于da层应该是中mvc中的概念:dao层,属于后端开发和数据库直接连接这一层,和ETL ,数仓没关系
数据仓库
系列12:如何设计一个高效的
ETL
流程
?
在本文中,我们深入探讨了如何设计一个高效的
ETL
流程
。我们从
ETL
的基本概念出发,详细讲解了设计步骤,分享了最佳实践和优化技巧,并通过一个实际案例展示了如何应用这些原则。此外,我们还讨论了
ETL
领域的未来发展趋势。
ETL
流程
的效率直接影响
数据仓库
的性能和数据质量。设计高效
ETL
需要考虑数据源特性、转换逻辑复杂度、目标系统要求等多个因素。增量处理、并行化、数据分区等技术可以显著提升
ETL
性能。错误处理、监控告警、数据质量检查等机制对于保证
ETL
的可靠性至关重要。
ETL
流程
、数据流图及
ETL
过程解决方案
文章目录 ◇
ETL
定义 ◇模式及比较 ◇
ETL
过程 ◇问题分析 ◇现状分析 一、
ETL
定义
ETL
定义涉及以下内容:
ETL
定义
ETL
前提
ETL
原则 1.
ETL
定义 ◆定义: 数据的抽取(Extract)、转换(Transform)、装载(Load)的过程 ◆目标: 数据优化。以最小代价(包括对日常操作的影响和对技能的要求)将针对日常业务操作的数据转化为针对
数据仓库
而存储的决策支持型数据 2.
ETL
的前提 确定
ETL
范围 ·通过对目标表信息的收集,确定
ETL
的范围 选择
ETL
工具 ·考虑资金 ·运
ETL
、DW、OLAP、DB、OLTP之间的
关系
【代码】
ETL
、DW、OLAP、DB、OLTP之间的
关系
。
DB、
ETL
、DW、OLAP、DM、BI
关系
结构图
在此大概用口水话简单叙述一下他们几个概念: (1)DB/Database/数据库——这里一般指的就是OLTP数据库,在线事物数据库,用来支持生产的,比如超市的买卖系统。DB保留的是数据信息的最新状态,只有一个状态!比如,每天早上起床洗脸照镜子,看到的就是当时的状态,至于之前的每天的状态,不会出现的你的眼前,这个眼前就是db。 (2)DW/Data Warehouse/
数据仓库
——这里保存的是...
数据仓库
基石:
ETL
的基本
流程
全解析
Extract(抽取):从源系统获取数据。Transform(转换):对抽取的数据进行清洗、格式转换、业务逻辑计算等操作,使其符合目标
数据仓库
的规范。Load(加载):将处理后的数据写入
数据仓库
(如ODS、DW、DM等)。一个稳定、高效的
ETL
流程
,直接决定了
数据仓库
的数据质量与时效性。
ETL
作为
数据仓库
的“心脏”,其
流程
设计的合理与否直接影响数据中台的稳定性与数据价值释放。掌握抽取、转换、加载三阶段的细节与优化策略,是每一位数据开发工程师的必备技能。
Hadoop生态社区
20,842
社区成员
4,695
社区内容
发帖
与我相关
我的任务
Hadoop生态社区
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
复制链接
扫一扫
分享
社区描述
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章