fly2749 2023-10-08 17:55 采纳率: 50%
浏览 5

基于Hudi框架的Spark数据导入报错?

基于Hudi框架的Spark数据导入报错,在Hadoop开启服务后,出现如下错误:

img

根据查找原因,在hadoop的hdfs-site.xml文件下加入了如下配置,

img

首先修改了该参数后仍然显示图一的错误,关于dfs.replication之前设置的是1,后改为3后仍然是同样的错误,先贴上来请教下该问题,感谢

另:服务都已重启

  • 写回答

1条回答 默认 最新

  • AllenGd 大数据领域优质创作者 2023-10-09 10:47
    关注

    你在你的spark代码中加上代码:
    java代码中添加

    conf.set("dfs.client.block.write.replace-datanode-on-failure.policy","NEVER");
    conf.set("dfs.client.block.write.replace-datanode-on-failure.enable","true");

    评论

报告相同问题?

问题事件

  • 创建了问题 10月8日

悬赏问题

  • ¥15 关于#Java#的问题,如何解决?
  • ¥15 加热介质是液体,换热器壳侧导热系数和总的导热系数怎么算
  • ¥15 想问一下树莓派接上显示屏后出现如图所示画面,是什么问题导致的
  • ¥100 嵌入式系统基于PIC16F882和热敏电阻的数字温度计
  • ¥15 cmd cl 0x000007b
  • ¥20 BAPI_PR_CHANGE how to add account assignment information for service line
  • ¥500 火焰左右视图、视差(基于双目相机)
  • ¥100 set_link_state
  • ¥15 虚幻5 UE美术毛发渲染
  • ¥15 CVRP 图论 物流运输优化