场景与需求:用户在web页面点击某个按钮,然后需要提交一个spark job到spark集群运行。想通过java代码实现与使用spark-submit一样的效果,请问各位大佬应该怎么做?
望各位大佬不吝赐教!求教各位指点迷津!跪谢!
注:spark集群已经有3个spark-client;web项目开发使用的框架是springboot,
web项目部署在websphere服务器上。
在Java web中怎么提交一个spark job任务?
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
3条回答 默认 最新
- 玄尺 2018-11-07 05:52关注
spark使用命令行提交任务使用场景很窄,一般情况下提交任务、kill任务、查询任务执行状态都是使用http接口,在这种场景下你应该使用livy。你需要安装livy,才可以用,具体安装文档以及使用文档很多,这里就不多说了。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 关于博途V17进行仿真时无法建立连接问题
- ¥15 请问下这个红框里面是什么文档或者记事本编辑器
- ¥15 机器学习教材中的例题询问
- ¥15 求.net core 几款免费的pdf编辑器
- ¥15 为什么安装HCL 和virtualbox之后没有找到VirtualBoxHost-OnlyNetWork?
- ¥15 C# P/Invoke的效率问题
- ¥20 thinkphp适配人大金仓问题
- ¥20 Oracle替换.dbf文件后无法连接,如何解决?(相关搜索:数据库|死循环)
- ¥15 数据库数据成问号了,前台查询正常,数据库查询是?号
- ¥15 算法使用了tf-idf,用手肘图确定k值确定不了,第四轮廓系数又太小才有0.006088746097507285,如何解决?(相关搜索:数据处理)