社区
Hadoop生态社区
帖子详情
hadoop 集群突然 down掉了,我该怎么排查
skins_LI
2017-12-06 10:05:19
如题,我们是用 ambari 监控的,第二天早上 一看 集群都停掉了。
我应该怎么排查,
查log的话 怎么查,去哪查
查谁的。
目的是知道为什么会停掉。
...全文
540
3
打赏
收藏
hadoop 集群突然 down掉了,我该怎么排查
如题,我们是用 ambari 监控的,第二天早上 一看 集群都停掉了。 我应该怎么排查, 查log的话 怎么查,去哪查 查谁的。 目的是知道为什么会停掉。
复制链接
扫一扫
分享
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
ggzone
2017-12-08
打赏
举报
回复
集群挂了这个描述说的有点笼统。一直在用CM,ambari 没实际用过。但是我感觉有些东西应该是类似的。 CM管理页面可以看到每个node的每个服务的状态以及警告、失败原因,而且可以查看每个node上每个服务相应的详细日志,要先通过CM定位是哪个node的哪个服务出现问题。确定了问题服务后再去查看相应node服务的日志。 日志目录:一般都在/var/log/服务名下目录下 hadoop本身是容错的,我感觉丢失一个datanode或者一个nodemanager的话,应该算不上楼主说的集群挂了,估计应该是namenode、resourcemanager问题。 对于一个新手可能会遇到的坑:ip地址是可能会导致整个集群挂掉的。
dinghun8leech
2017-12-06
打赏
举报
回复
1、看主机情况是否正常,是否有主机失效; 2、看hdfs哪些节点失效,去所在主机看日志。
shiter
2017-12-06
打赏
举报
回复
先看zk,在看namenode,log在各个节点的var log 对应角色下面
节点down
2018/03/10 今天遇见了三次这个节点突然就down的状态,但是从日志里面看没有看到问题。 这个现在还能说出问题具体在哪。 这次重启的话是直接在namenode上重启的。 文件数据还在,只不过刚才跑过的应用信息不见了。 后续要看这个down了的话怎么去解决。 下午3点多,又
掉
了一个节点,datanode服务在,但是nodemanager不在了 也不知道为什么,看日志是什么东西也没有写。...
hadoop
namenode down的遭遇
正在往测试环境的
hadoop
集群
上传文件,上传失败,提示put: Call to mymaster/123.168.12.6:9000 failed on local exception: java.io.EOFException 后来关闭
集群
,并重启机器,namenode进程还是起不来,看日志,报错提示为: java.io.IOException: Incorrect data format
Hadoop
集群
datanode死
掉
情景之一
今天
集群
里面新添加一个机器,重新启动
集群
后,ssh到新添加的机器上,用jps命令查看,发现DataNode进程早已经死
掉
。查看日志文件发现有一条这样的错误: SHUTDOWN_MSG: Shutting down DataNode at java.net.UnknownHostException:slave1.
hadoop
可以为非法的hostname引起的,使用命令hostname查看当前机器的
基于Docker Compose快速搭建3节点
Hadoop
集群
实战指南
容器化技术通过将应用及其依赖打包成标准单元,实现了环境的一致性与快速部署,其核心原理在于利用操作系统级虚拟化提供隔离的运行环境。Docker作为主流容器引擎,凭借其轻量、可移植的特性,在DevOps和微服务架构中展现出巨大技术价值。Docker Compose作为多容器应用编排工具,通过声明式YAML文件简化了复杂分布式系统的定义与管理流程。这一技术组合特别适用于大数据平台等需要多组件协同的场景,能够显著提升开发测试环境的搭建效率与可复现性。本文聚焦于利用Docker镜像和Docker Compose编排,
Aliyun EMR
集群
重启
1.如果Core节点有Down
掉
,ActiveNodes少于Core节点数。 处理: a.登陆到Master节点,到目录 /opt/apps/
hadoop
-2.7.2/sbin b.执行 ./stop-all.sh ./start-all.sh,重启所有服务 c.观察日志,看服务是否正常启动,如果异常,根据日志逐步
排查
2.如果Hive不可用,
排查
如下: ps a...
Hadoop生态社区
20,843
社区成员
4,695
社区内容
发帖
与我相关
我的任务
Hadoop生态社区
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
复制链接
扫一扫
分享
社区描述
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章