hadoop监控界面数据觉得不太对啊

曹宇 2014-09-03 05:26:07
Cluster Summary

94 files and directories, 18662 blocks = 18756 total. Heap Size is 349.56 MB / 888.94 MB (39%)
Configured Capacity : 6.14 TB
DFS Used : 4.24 MB
Non DFS Used : 1.79 TB
DFS Remaining : 4.34 TB
DFS Used% : 0 %
DFS Remaining% : 70.76 %
Live Nodes : 3
Dead Nodes : 0
Decommissioning Nodes : 1
Number of Under-Replicated Blocks : 6430


1,DFS 才用了4.24MB 竟然后1万多的block

2,我当前正在Decommissioning 一个节点. 这个节点上有4000多个block

3,Number of Under-Replicated Blocks 这一项一直在变大 现在是6430 我写帖子这一回都6500+了
这不是表示未复制的block吗 按理说是一上来很大 逐步变小的吗.

Hadoop版本是 1.0.4

求解...
多谢了
...全文
378 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
skyWalker_ONLY 2014-09-23
  • 打赏
  • 举报
回复
引用 6 楼 ProgrammingPower 的回复:
[quote=引用 5 楼 sky_walker85 的回复:] [quote=引用 4 楼 ProgrammingPower 的回复:] [quote=引用 1 楼 sky_walker85 的回复:] Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加
多谢您的回答. 就是我还有一个额外的问题. 在balance过程中 如果干掉了balance进程会怎样 Hadoop会回滚吗?还是会出现block错误啊 比如丢失 损坏block等. 还望您能解答 ,多谢了.[/quote] kill点balance进程与执行脚本stop-balancer.sh效果是一样的,楼主可以试一下[/quote] 多谢您的回答. 为什么是一样的呢? 原理都是强行KILL吗? stop 命令关闭balance不会做一些收尾工作吗? [/quote] 楼主看一下stop-balancer.sh的源代码就明白了
曹宇 2014-09-23
  • 打赏
  • 举报
回复
引用 5 楼 sky_walker85 的回复:
[quote=引用 4 楼 ProgrammingPower 的回复:] [quote=引用 1 楼 sky_walker85 的回复:] Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加
多谢您的回答. 就是我还有一个额外的问题. 在balance过程中 如果干掉了balance进程会怎样 Hadoop会回滚吗?还是会出现block错误啊 比如丢失 损坏block等. 还望您能解答 ,多谢了.[/quote] kill点balance进程与执行脚本stop-balancer.sh效果是一样的,楼主可以试一下[/quote] 多谢您的回答. 为什么是一样的呢? 原理都是强行KILL吗? stop 命令关闭balance不会做一些收尾工作吗?
skyWalker_ONLY 2014-09-05
  • 打赏
  • 举报
回复
引用 4 楼 ProgrammingPower 的回复:
[quote=引用 1 楼 sky_walker85 的回复:] Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加
多谢您的回答. 就是我还有一个额外的问题. 在balance过程中 如果干掉了balance进程会怎样 Hadoop会回滚吗?还是会出现block错误啊 比如丢失 损坏block等. 还望您能解答 ,多谢了.[/quote] kill点balance进程与执行脚本stop-balancer.sh效果是一样的,楼主可以试一下
曹宇 2014-09-04
  • 打赏
  • 举报
回复
引用 1 楼 sky_walker85 的回复:
Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加
多谢您的回答. 就是我还有一个额外的问题. 在balance过程中 如果干掉了balance进程会怎样 Hadoop会回滚吗?还是会出现block错误啊 比如丢失 损坏block等. 还望您能解答 ,多谢了.
曹宇 2014-09-04
  • 打赏
  • 举报
回复
引用 1 楼 sky_walker85 的回复:
Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加
恩 可是这个数量也太大了吧 总的block数目都上2W了 我集群实际上就5个block 基本没有内容 我将3个节点所有Hadoop进程全部干掉 然后删除dfs.exclude文件 重启集群 后 block数目就5个. 请问这个是怎么回事
zixin1990 2014-09-03
  • 打赏
  • 举报
回复
这个情况是正常的
skyWalker_ONLY 2014-09-03
  • 打赏
  • 举报
回复
Under-Replicated是未复制的意思,当Decommissioning一个Datanode时会将其上的block复制到其他活的节点上,所以该数量会一直增加

20,809

社区成员

发帖
与我相关
我的任务
社区描述
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
社区管理员
  • 分布式计算/Hadoop社区
  • 涤生大数据
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧