如何rotate HDFS下的log目录/tmp/hadoop-yarn/staging/history/done_intermediate

wenjie2016 2014-08-11 02:50:20
如何rotate HDFS下的log目录/tmp/hadoop-yarn/staging/history/done_intermediate
配置文件中没有找到相应的参数
请大侠指点
...全文
1355 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
u010967406 2014-11-26
  • 打赏
  • 举报
回复
应该是不能 你只能hadoop fs -get 手动下载了。 改路径行不通。 eg: 14/11/26 17:20:46 INFO mapreduce.JobSubmitter: Cleaning up the staging area file:/home/zhangzeyang/rundata/hadoop2.2.0/tmp/logs/userlogs/zhangzeyang/.staging/job_1416993590420_0001 Exception in thread "main" java.lang.IllegalArgumentException: Wrong FS: file:/home/zhangzeyang/rundata/hadoop2.2.0/tmp/logs/userlogs/zhangzeyang/.staging/job_1416993590420_0001, expected: hdfs://10.3.1.76:33000
u010967406 2014-11-26
  • 打赏
  • 举报
回复
<property> <name>yarn.app.mapreduce.am.staging-dir</name> <value>/tmp/hadoop-yarn/staging</value> <description>The staging dir used while submitting jobs. </description> </property> 这个是在hadoop源码mapred-default.xml里,粘到mapred-site.xml并修改参数就好。 不过我也想知道怎么改至本地,好像怎么样都是在hdfs上。。 一同等回答

20,808

社区成员

发帖
与我相关
我的任务
社区描述
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
社区管理员
  • 分布式计算/Hadoop社区
  • 涤生大数据
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧