社区
云存储
帖子详情
HDFS 下,一个文件如何查看它所占的元数据在namenode内存中的大小?
flesh_man
2016-03-11 08:47:03
各位想问一下,如何查看namenode中元数据的大小啊
...全文
1575
2
打赏
收藏
HDFS 下,一个文件如何查看它所占的元数据在namenode内存中的大小?
各位想问一下,如何查看namenode中元数据的大小啊
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
2 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
大数据技术架构
2019-07-14
打赏
举报
回复
引用 1 楼 pernodrum 的回复:
大概是150kb
多一个k吧兄弟
pernodrum
2019-03-31
打赏
举报
回复
大概是150kb
【
HDFS
基础】Name
Node
内存
详解
定义 Name
Node
管理着整个
HDFS
文件
系统的
元数据
。 从架构设计上看,
元数据
大致分成两个层次:Namespace管理层:负责管理
文件
系统
中
的树状目录结构以及
文件
与数据块的映射关系; 块管理层:负责管理
文件
系统
中
文件
的物理块与实际存储位置的映射关系BlocksMap。 Namespace管理的
元数据
除
内存
常驻外,也会周期Flush到持久化设备上FsImage
文件
;BlocksMap
元数据
只在
内存
Name
node
元数据
管理
在
HDFS
中
文件
相关
元数据
具有两种类型
文件
自身属性信息
文件
名称、权限,修改时间,
文件
大小
,复制因子,数据块
大小
。
文件
块位置映射信息记录
文件
块和Data
Node
之间的映射信息,即哪个块位于哪个节点上。按存储形式分为
内存
元数据
和
元数据
文件
两种,分别存在
内存
和磁盘上。
HDFS
角色职责超详细概述Name
node
、Data
node
、
元数据
管理+fsimage
内存
镜像
文件
+ Edits log编辑日志、
元数据
加载顺序
Name
Node
是
HDFS
的核心,集群的主角色,被称为Master。 Name
Node
仅存储管理
HDFS
的
元数据
:
文件
系统namespace操作维护目录树,
文件
和块的位置信息。Name
Node
不存储实际数据或数据集。数据本身实际存储在Data
Node
s
中
。 Name
Node
知道
HDFS
中
任何给定
文件
的块列表及其位置。使用此信息Name
Node
知道如何从块
中
构建
文件
。Name
Node
并不持久化存储每个
文件
中
各个块所在的Data
Node
的位置信息,这些信息会在系统启动时从Data
Node
汇报
中
重建。
【
HDFS
】Name
Node
元数据
内存
计算
Name
Node
元数据
内存
计算
HDFS
元数据
解析
2.1 概述 从形式上讲,
元数据
ke
云存储
932
社区成员
651
社区内容
发帖
与我相关
我的任务
云存储
云计算 云存储相关讨论
复制链接
扫一扫
分享
社区描述
云计算 云存储相关讨论
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章