有捣鼓过 Hadoop 编程的请帮忙!

小灰狼 2017-03-21 10:02:42
在 Hadoop 组提了两个问题了,有关编程的一个答复的都没有
完整代码如下
package com.idbk.test.hadoop;

import java.io.IOException;
import java.io.InputStream;
import java.net.MalformedURLException;
import java.net.URL;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.io.IOUtils;

public class Test001 {

public void testURL(){
System.out.println("new FsUrlStreamHandlerFactory()");
URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
System.out.println("new FsUrlStreamHandlerFactory() complete.");

String path = "hdfs://hadoop.master:8020/input/mapred-site.xml.template";
InputStream input= null;
try {
input= new URL(path).openStream();
IOUtils. copyBytes(input, System.out, 4096, false );
} catch (MalformedURLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
}finally {
IOUtils. closeStream(input);
}
}

public static void main(String[] args){
Test001 obj = new Test001();
obj.testURL();
}
}


URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory()); 语句明明都已经执行过了
但为什么报 在 input= new URL(path).openStream(); 中报异常
java.net.MalformedURLException: unknown protocol: hdfs
...全文
230 6 打赏 收藏 转发到动态 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
zs808 2017-03-22
  • 打赏
  • 举报
回复
如果只是写HDFS相关内容的话,就用hadoop-common与hadoop-hdfs包就可以了。
moguobiao 2017-03-22
  • 打赏
  • 举报
回复
如果你用Maven的话,这些jar包都可以自动导入的。
小灰狼 2017-03-21
  • 打赏
  • 举报
回复
感谢楼上几位回复 你们是用什么开发工具,还有做 Hadoop 开发一般要导哪些 jar? Hadoop 里 jar 一大把,不知道哪些要用到,哪些用不到! 我用的是 MyEclipse 10,JDK1.7 昨天曾经下载 hadoop 源代码进行编译,发现里面有些用到了 JDK1.8 的语法,所以估计在 JDK1.7 下是无法运行的。但是除了这种错误,还有一些在源代码里报类找不到的编译错误,那些类也不知道上要导哪些 jar 进来 网上下载了 hadoop 的 Eclipse 插件,但发现在 MyEclipse10 下无法使用
zs808 2017-03-21
  • 打赏
  • 举报
回复
引用 1 楼 moguobiao 的回复:
把 hadoop-hdfs-2.X.jar 加到 classpath 上。
在移除hadoop-hdfs包依赖以后,是会报跟lz一样的错误,应该就是因为这个了。
zs808 2017-03-21
  • 打赏
  • 举报
回复
我本机测试是没有问题的,是不是包的版本问题?
moguobiao 2017-03-21
  • 打赏
  • 举报
回复
把 hadoop-hdfs-2.X.jar 加到 classpath 上。

62,628

社区成员

发帖
与我相关
我的任务
社区描述
Java 2 Standard Edition
社区管理员
  • Java SE
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧