最近学了下spark,关于spark yarn模式很困惑,找视频翻书都没找到明确答案,有知道的麻烦解答下~
如题,假设有5台机器,spark on yarn模式部署时:
1、计划1台做hadoop的master,其余4台做slave,这是hadoop集群;
2、这时还需要在5台中也分别安装好spark吗,还是比如只在其中3台机器中装好spark然后做这3台的spark集群配置就行了,又或者只需要hadoop的master这一台机器装好这一处spark就行了,如果是只在master这一台机器上装spark,那么实际计算时使用到的节点是hadoop集群配置的那些吗?
求解答,多谢~
![](https://profile-avatar.csdnimg.cn/a113102ffa074c2287eb3c34303c9676_dwc136251.jpg!4)
spark yarn需要部署多个spark吗?
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
2条回答 默认 最新
- syyyyyyyyyyyyyyh 2021-07-05 10:00关注
如果任务推送至yarn上,实际的工作节点为 nodeManager节点。与hive道理相同,hive默认跑mapreduce,单节点的hql查询也是推送任务至yarn上,工作节点为nodeManager节点。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 metadata提取的PDF元数据,如何转换为一个Excel
- ¥15 关于arduino编程toCharArray()函数的使用
- ¥100 vc++混合CEF采用CLR方式编译报错
- ¥15 coze 的插件输入飞书多维表格 app_token 后一直显示错误,如何解决?
- ¥15 vite+vue3+plyr播放本地public文件夹下视频无法加载
- ¥15 c#逐行读取txt文本,但是每一行里面数据之间空格数量不同
- ¥50 如何openEuler 22.03上安装配置drbd
- ¥20 ING91680C BLE5.3 芯片怎么实现串口收发数据
- ¥15 无线连接树莓派,无法执行update,如何解决?(相关搜索:软件下载)
- ¥15 Windows11, backspace, enter, space键失灵