在directstream中,用python,如何实现手动将offset更新到zk

在sparkstreaming中,使用kafka的directstream接口获取数据时,不会将offset更新到zookeeper,这样会导致job重启后只能从最新的offset读取,从而造成数据丢失,为了避免这个情况,官网提示说可以自己实现将offset手动更新到zookeeper,我使用的是python,但是spark的python接口中并无java和scala中的kafkacluster这个类,不知道自己手动该如何实现,网上有很多scala和java实现这个操作的代码,求高手给一个python版本的,在线等,跪求!!!!小弟编程能力有限,跪求高手耐心解答,抱拳。

1个回答

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问