我最近采用这种方法提交作业,把mr作业的业务逻辑打包上传至hdfs中,在eclipse中提交任务(不安装hadoop插件),报错Error: java.io.IOException: Unable to initialize any output collector,如果把mr作业的业务逻辑打包上传至hdfs节点上,就可以顺利完成。
这是为什么?
Configuration conf = new Configuration();
conf.set("mapreduce.job.name","count22");
conf.set("mapreduce.job.jar", "hdfs://172.16.200.210:8020/user/root/testjar/hadoopTest.jar");
conf.set("mapreduce.job.output.key.class", "org.apache.hadoop.io.Text");
conf.set("mapreduce.job.output.value.class", "org.apache.hadoop.io.IntWritable");
conf.set("mapred.mapper.class", "hadoop.test$Map");
conf.set("mapred.reducer.class", "hadoop.test$Reduce");
conf.set("mapred.combiner.class", "hadoop.test$Reduce");
conf.set("mapred.input.format.class", "org.apache.hadoop.mapred.TextInputFormat");
conf.set("mapred.output.format.class", "org.apache.hadoop.mapred.TextOutputFormat");
conf.set("mapreduce.input.fileinputformat.inputdir",
"hdfs://172.16.200.210:8020/user/root/input/count.txt");
conf.set("mapreduce.output.fileoutputformat.outputdir",
"hdfs://172.16.200.210:8020/user/root/sc");
JobConf jobconf=new JobConf(conf);
JobClient.runJob(jobconf);
mapreduce提交作业出现报错信息
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
0条回答 默认 最新
悬赏问题
- ¥15 如何在scanpy上做差异基因和通路富集?
- ¥20 关于#硬件工程#的问题,请各位专家解答!
- ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
- ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错,维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 報錯:Person is not mapped,如何解決?
- ¥15 c++头文件不能识别CDialog