___♡ 东南东南。 2021-09-17 18:19 采纳率: 0%
浏览 25

Structured Streaming 继承 ForeachWriter<Row> 处理,在实现方法中是处理每一行数据的,怎么能实现处理一批数据呢


 @Override
    public boolean open(long partitionId, long epochId) {
        //System.out.println("partitionId:"+partitionId+"=== epochId:"+epochId);
        return true;
    }

    @Override
    public void process(Row value) {
        FileWriter fileWriter = null;
        try {
            fileWriter = new FileWriter(path, true);
            fileWriter.write(value.mkString());
            fileWriter.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
        FileWriter fileWriter2 = null;
        try {
            fileWriter2 = new FileWriter(path2, true);
            fileWriter2.write(value.mkString());
            fileWriter2.close();
        } catch (IOException e) {
            e.printStackTrace();
        }

        System.out.println(value.mkString());
    }

    @Override
    public void close(Throwable errorOrNull) {
        System.out.println("==========close=============");
    }

需求是我的数据需要进行多分支的处理。ForeachWriter中的process方法可以做到多分支处理。但是只能处理一行数据,所以我想知道有没有办法可以处理一批数据,还可以多分支

  • 写回答

2条回答 默认 最新

  • 关注

    用BufferedWriter缓存流,是分批处理的,关闭之前要调用一次flush方法哦。

    评论

报告相同问题?

问题事件

  • 修改了问题 9月17日
  • 创建了问题 9月17日

悬赏问题

  • ¥15 多电路系统共用电源的串扰问题
  • ¥15 shape_predictor_68_face_landmarks.dat
  • ¥15 slam rangenet++配置
  • ¥15 有没有研究水声通信方面的帮我改俩matlab代码
  • ¥15 对于相关问题的求解与代码
  • ¥15 ubuntu子系统密码忘记
  • ¥15 信号傅里叶变换在matlab上遇到的小问题请求帮助
  • ¥15 保护模式-系统加载-段寄存器
  • ¥15 电脑桌面设定一个区域禁止鼠标操作
  • ¥15 求NPF226060磁芯的详细资料