knightjsh
2020-06-19 16:33
采纳率: 66.7%
浏览 849

sqoop执行mysql导入hdfs,卡住在mapreduce.Job: Running job: job_1592553833488_0001

虚拟硬盘空间总20g,但仅用了3g,内存总容量1624MB。本以为容量不足原因扩容了,查找了网上的方法在yarn-site.xml中添加设置:

yarn-site.xml 结尾添加:

<property>  
<name>yarn.nodemanager.resource.memory-mb</name>  
<value>1600</value>  
</property>  
<property>  
<name>yarn.scheduler.minimum-allocation-mb</name>  
<value>1024</value>  
</property>  
<property>  
<name>yarn.nodemanager.vmem-pmem-ratio</name>  
<value>2.1</value>  
</property>  

但是依然没有效果,之前配置yarn.nodemanager.resource.memory-mb项为1024,运行时出现报错所需内存1536>可调用内存1524,最后添加到1600

运行没有报错,就卡住在这里,十分钟后发现实在不动就退出了
图片说明

查看hadoop日志文件夹下的yarn-root-resourcemanager-master.log,发现最近一次的日志如下:

INFO org.apache.hadoop.yarn.server.resourcemanager.rmapp.attempt.RMAppAttemptImpl: appattempt_1592553833488_0001_000001 State change from SUBMITTED to SCHEDULED

执行sqoop指令如下:

sqoop import -connect jdbc:mysql://master:3306/db_jbw -username sqoop -password 123 -table tbl_sqoop -m 1 -target-dir /mysqoop/out

求大神指教!!!

  • 写回答
  • 好问题 提建议
  • 追加酬金
  • 关注问题
  • 邀请回答

1条回答 默认 最新

相关推荐 更多相似问题