weixin_45663641 2023-08-01 20:19 采纳率: 0%
浏览 10

flink运行报错,内存溢出,有人懂吗

flink运行一段时间,报内存溢出,下面是运行参数,和报错,设置了很大的taskmanager内存,还是不行,有没有人懂🙏🏻

img


flink run \
-t yarn-per-job \
-d \
-p 10 \
-Drest.flamegraph.enabled=true \
-Dyarn.application.queue=default \
-Drest.flamegraph.enabled=true \
-Djobmanager.memory.process.size=2048mb \
-Dtaskmanager.memory.process.size=49152mb \
-Dtaskmanager.numberOfTaskSlots=2 \
-Dtaskmanager.memory.jvm-metaspace.size=512mb \
-Dtaskmanager.memory.jvm-overhead.max=2048mb \
-Dstate.backend.rocksdb.block.blocksize=64kb \
-Dstate.backend.rocksdb.block.cache-size=128mb \
-Dstate.backend.rocksdb.writebuffer.size=128mb \
-Dstate.backend.rocksdb.compaction.style=level \
-Dstate.backend.rocksdb.compaction.level.max-size-level-base=320m \
-Dstate.backend.rocksdb.writebuffer.count=5 \
-Dstate.backend.rocksdb.thread.num=8 \
-Dtaskmanager.memory.jvm-overhead.fraction=0.3  \
-Dstate.backend.rocksdb.checkpoint.transfer.thread.num=8 \
-Dstate.backend.rocksdb.writebuffer.number-to-merge=3 \
-Dstate.backend.rocksdb.metrics.block-cache-usage=true \
-Dstate.backend.rocksdb.memory.partitioned-index-filters=true \
-Dtaskmanager.memory.network.max=2048mb \
-Denv.java.opts="-Dfile.encoding=UTF-8" \
-Dyarn.application.name=beta_hunter_fault_matching \
-c cn.seres.beta.realtime.app.BetaHunterVehicleFaultMatchApp \
/root/beta_flink_lib/beta_hunter_fault_match-1.2-SNAPSHOT.jar
  • 写回答

2条回答 默认 最新

  • CSDN-Ada助手 CSDN-AI 官方账号 2023-08-01 23:34
    关注
    不知道你这个问题是否已经解决, 如果还没有解决的话:
    • 建议你看下这篇博客👉 :Flink的taskmanager到底设置多少内存为好
    • 除此之外, 这篇博客: Flink内核原理学习(四)内存模型中的 二、TaskManager内存模型 部分也许能够解决你的问题, 你可以仔细阅读以下内容或跳转源博客中阅读:

        Flink 1.10 对 TaskManager 的内存模型和 Flink 应用程序的配置选项进行了重大更改,让用户能够更加严格地控制其内存开销jobmanager.memory.process.size: 1600m。这里就需要引出其内存模型。
      TM内存模型
      另外JobManager也是使用堆内存、堆外内存,并在1.11版本后与TM统一了配置


    如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^
    评论

报告相同问题?

问题事件

  • 创建了问题 8月1日

悬赏问题

  • ¥20 关于#深度学习#的问题:2708)输出:邻接矩阵A 或者 节点索引方式:通过随机游走或者其他方式,保持节点连接类似下图(语言-python)
  • ¥15 win11 24h2 右键打印怎样删除
  • ¥15 win2012 iscsi ipsec
  • ¥15 封装的 matplotlib animation 不显示图像
  • ¥15 python摄像头画面无法显示
  • ¥15 关于#3d#的问题:d标定算法(语言-python)
  • ¥15 cve,cnnvd漏洞扫描工具推荐
  • ¥15 图像超分real-esrgan网络自己训练模型遇到问题
  • ¥15 如何构建全国统一的物流管理平台?
  • ¥100 ijkplayer使用AndroidStudio/CMake编译,如何支持 rtsp 直播流?