关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
拧螺丝专业户
2016-05-30 13:35
采纳率: 0%
浏览 1405
首页
怎样证明spark运行程序的时候不是在一台机器上,而是在多台机器上?
怎样证明spark运行程序的时候不是在一台机器上,而是在多台机器上?
如题,希望大家能帮忙解决一下。。。谢谢
收起
写回答
好问题
0
提建议
关注问题
微信扫一扫
点击复制链接
分享
邀请回答
编辑
收藏
删除
结题
收藏
举报
1
条回答
默认
最新
关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
wxzyhx1009
2016-06-12 08:08
关注
通过Spark作业监控的WEB UI界面应该可以看到
本回答被题主选为最佳回答
, 对您是否有帮助呢?
本回答被专家选为最佳回答
, 对您是否有帮助呢?
本回答被题主和专家选为最佳回答
, 对您是否有帮助呢?
解决
无用
评论
打赏
微信扫一扫
点击复制链接
分享
举报
评论
按下Enter换行,Ctrl+Enter发表内容
查看更多回答(0条)
向“C知道”追问
报告相同问题?
提交
关注问题
Spark
- 第15章
Spark
如何在集群上
运行
2022-07-01 23:31
博_采_众_长的博客
根据应用
程序
的配置,我们可能获得一个
运行
Spark
驱动器的
机器
资源,或者可能获得的是我们
Spark
执行器的计算资源。在
Spark
应用
程序
执行过程中,集群管理器将负责管理执行应用
程序
的底层
机器
。
Spark
目前支持三个集群...
spark
哪些代码在driver
运行
_编写的
Spark
程序
代码,
运行
在driver端还是executor端呢?...
2021-01-17 18:56
weixin_39735166的博客
executor
程序
代码执行mp.weixin.qq.comdriver是
运行
用户编写Application 的main()函数的地方,具体负责DAG的构建、任务的划分、task的生成与调度等。job,stage,task生成都离不开rdd自身,rdd的相关的操作不能...
windows在IDEA环境
运行
spark
程序
(
spark
安装在另
一台
mac
机器
)
2016-12-10 18:02
嵇康的博客
源代码:https://github.com/jimingkang/
spark
...:
spark
-2.0.2-bin-hadoop2.7 IDEA配置参考:http://blog.csdn.net/javastart/article/details/43372977‘’ 关键代码: val conf = new
Spark
Conf().setAp
大数据笔记--
Spark
机器
学习(第一篇)
2022-04-05 17:05
是小先生的博客
一、数据挖掘与
机器
学习 1、概念 2、人工智能 3、数据挖掘体系 二、
机器
学习 1、什么是
机器
学习 2、
机器
学习的应用 3、实现
机器
学习算法的工具与技术框架 三、
Spark
MLlib介绍 1、简介 2、MLlib基本数据...
如何在 K8s 上
运行
Spark
& Hive?
2022-04-12 18:18
LinkTime_Cloud的博客
引 言随着 Kubernetes 越来越成熟,使用者越来越多,大数据应用上云的需求也越来越迫切。原有的大数据资源管理器 Yarn 很难做到所有...而在 Kubernetes 上,此类问题天然解决。所有的应用都以 Pod 形式在 Kubernetes...
机器
学习实战10-基于
spark
大数据技术与
机器
学习的结合应用实战
2023-07-19 11:37
微学AI的博客
大家好,我是微学AI,今天给大家介绍一下
机器
学习实战10-基于
spark
大数据技术与
机器
学习的结合应用实战,
Spark
是一种快速、通用的大数据处理框架。它是由加州大学伯克利分校AMPLab开发。
Spark
提供了一个分布式计算的...
【
机器
学习】大数据时代,模型训练慢如牛?解锁
Spark
MLlib与分布式策略
2025-04-17 19:00
吴师兄大模型的博客
本篇文章将深入探讨将
机器
学习应用于大规模数据集所面临的挑战,介绍主流的大数据处理框架(特别是 Apache
Spark
及其 MLlib 库),解析分布式训练的核心策略,并展望云平台如何为大数据
机器
学习提供强大的支持。
编写的
Spark
程序
代码,
运行
在driver端还是executor端呢?
2020-05-25 21:22
智海观潮的博客
在
Spark
中: driver是
运行
用户编写Application 的main()函数的地方,具体负责DAG的构建、任务的划分、task的生成与调度等。job,stage,task生成都离不开rdd自身,rdd的相关的操作不能缺少driver端的
spark
session/...
在集群上
运行
Spark
2017-10-26 17:22
zhexiao27的博客
在一个
Spark
集群中,有一个节点负责中央协调, 调度各个分布式工作节点。 这个中央协调节点被称为驱动器(Driver) 节点。 工作节点被称为执行器(executor) 节点。 驱动器节点
Spark
驱动器是执行你的
程序
中的 ...
在YARN上
运行
Spark
API
2018-12-18 11:39
张伯毅的博客
启动命令格式: $ ./bin/
spark
-submit --class path.to.your.Class --master yarn --deploy-mode cluster [options] <app jar&...$ ./bin/
spark
-submit --class org.apache.
spark
.exam...
没有解决我的问题,
去提问
向专家提问
向AI提问
付费问答(悬赏)服务下线公告
◇ 用户帮助中心
◇ 新手如何提问
◇ 奖惩公告