Hadoop中的HDFS文件系统内部如何解压ZIP文件
一、命令不支持解压文件,这种就弃用了
二、那调用HDFS的java api,这段是从网上找来的关于HDFS文件解压的代码,
//使用文件扩展名来推断二来的codec来对文件进行解压缩
public static void uncompress1(String uri) throws IOException{
Configuration conf = new Configuration();
FileSystem fs = FileSystem.get(URI.create(uri), conf);
Path inputPath = new Path(uri);
CompressionCodecFactory factory = new CompressionCodecFactory(conf);
CompressionCodec codec = factory.getCodec(inputPath);
if(codec == null){
System.out.println("no codec found for " + uri);
System.exit(1);
}
String outputUri = CompressionCodecFactory.removeSuffix(uri, codec.getDefaultExtension());
InputStream in = null;
OutputStream out = null;
try {
in = codec.createInputStream(fs.open(inputPath));
out = fs.create(new Path(outputUri));
IOUtils.copyBytes(in, out, conf);
} finally{
IOUtils.closeStream(out);
IOUtils.closeStream(in);
}
}
但是不支持zip格式的文件解压,下面两行代码
CompressionCodecFactory factory = new CompressionCodecFactory(conf);
CompressionCodec codec = factory.getCodec(inputPath);
运行后codec为空,不能获取到压缩方式,English网站有位bro说hadoop不支持zip格式的压缩跟解压
,不知道各位兄弟有没有解决这个问题的呢?

二、那调用HDFS的java api,这段是从网上找来的关于HDFS文件解压的代码,
//使用文件扩展名来推断二来的codec来对文件进行解压缩
public static void uncompress1(String uri) throws IOException{
Configuration conf = new Configuration();
FileSystem fs = FileSystem.get(URI.create(uri), conf);
Path inputPath = new Path(uri);
CompressionCodecFactory factory = new CompressionCodecFactory(conf);
CompressionCodec codec = factory.getCodec(inputPath);
if(codec == null){
System.out.println("no codec found for " + uri);
System.exit(1);
}
String outputUri = CompressionCodecFactory.removeSuffix(uri, codec.getDefaultExtension());
InputStream in = null;
OutputStream out = null;
try {
in = codec.createInputStream(fs.open(inputPath));
out = fs.create(new Path(outputUri));
IOUtils.copyBytes(in, out, conf);
} finally{
IOUtils.closeStream(out);
IOUtils.closeStream(in);
}
}
但是不支持zip格式的文件解压,下面两行代码
CompressionCodecFactory factory = new CompressionCodecFactory(conf);
CompressionCodec codec = factory.getCodec(inputPath);
运行后codec为空,不能获取到压缩方式,English网站有位bro说hadoop不支持zip格式的压缩跟解压
,不知道各位兄弟有没有解决这个问题的呢?
...全文
相关推荐
hadoop-idea-hdfs插件.zip
idea hadoop-hdfs插件,和eclipse上一样的Hadoop hdfs的插件功能一样;端口分别为50020和9000,不用点测试直接点应用即可
Hadoop平台搭建方案_hadoop_源码.zip
Hadoop平台搭建方案_hadoop_源码.zip
hadoop-eclipse-plugin-2.8.0.zip 亲测Eclipse2020+Hadoop2.10可用
将文档拷贝到eclipse\plugins目录下,重启eclipse,可见 Hadoop Map/Reduce小象选项
hadoop的hdfs文件操作实现上传文件到hdfs
主要介绍了使用hadoop的API对HDFS上的文件访问,其中包括上传文件到HDFS上、从HDFS上下载文件和删除HDFS上的文件,需要的朋友可以参考下
高可用性的HDFS:Hadoop分布式文件系统深度实践
本书专注于Hadoop 分布式文件系统(HDFS)的主流HA 解决方案,内容包括:HDFS 元数据解析、Hadoop 元数据备份方案、Hadoop Backup Node 方案、AvatarNode 解决方案以及最新的HA 解决方案Cloudrea HA Name Node 等。其中有关Backup Node 方案及AvatarNode 方案的内容是本书重点,尤其是对AvatarNode 方案从运行机制到异常处理方案的步骤进行了详尽介绍,同时还总结了各种异常情况下AvatarNode 的各种处理方案。


