小白walk 2018-11-25 05:57 采纳率: 0%
浏览 1570

spark streaming 优雅的停止方法失效,无法停止程序运行

问题是:
按照如下触发式停止方法,在运行一段时间,比如一天后,程序不能停止。但是在IDEA测试时可以实现停止,在运行时间不长比如一两个小时后也可以停止。这是为什么。

    def stopByMarkFile(streamContext: StreamingContext, log: Logger) = {
val intervalMills = 10 * 1000 // 每隔10秒扫描一次消息是否存在
var isStop = false
val hdfs_file_path = "hdfs://0.0.01:9000/lserver/stop" //判断消息文件是否存在,如果存在就停止


while (!isStop) {
  isStop = streamContext.awaitTerminationOrTimeout(intervalMills)
  if (!isStop && isExistsMarkFile(hdfs_file_path)) {
    log.warn("2秒后开始关闭sparstreaming程序.....")
    Thread.sleep(2000)
    streamContext.stop(true, true)
  }
}

}

// 指定目录是否存在文件
def isExistsMarkFile(hdfs_file_path:String):Boolean={
val conf = new Configuration()
val path = new Path(hdfs_file_path)
val fs = path.getFileSystem(conf)
return fs.exists(path)
}

  • 写回答

1条回答

  • weixin_43794965 2018-11-25 06:12
    关注

    打开任务管理器,找到运行程序强行停止

    评论

报告相同问题?

悬赏问题

  • ¥15 为什么使用javacv转封装rtsp为rtmp时出现如下问题:[h264 @ 000000004faf7500]no frame?
  • ¥15 乘性高斯噪声在深度学习网络中的应用
  • ¥15 运筹学排序问题中的在线排序
  • ¥15 关于docker部署flink集成hadoop的yarn,请教个问题 flink启动yarn-session.sh连不上hadoop,这个整了好几天一直不行,求帮忙看一下怎么解决
  • ¥30 求一段fortran代码用IVF编译运行的结果
  • ¥15 深度学习根据CNN网络模型,搭建BP模型并训练MNIST数据集
  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热(温度不同)的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛