weixin_45296130 2022-06-18 12:23 采纳率: 50%
浏览 52
已结题

pyspark代码运行报错,如何解决?(语言-python)

问题遇到的现象和发生背景

操作系统:Ubuntu 20.04
Spark版本:3.2.1
Hadoop 版本:3.3.1
Python 版本:3.8.10
Java 版本:1.8.202

问题相关代码,请勿粘贴截图

from pyspark import SparkConf, SparkContext

conf = SparkConf().setAppName("WordCount").setMaster("local")
sc = SparkContext(conf=conf)
inputFile = "hdfs://localhost:9000/user/way/word.txt"
textFile = sc.textFile(inputFile)
wordCount = textFile.flatMap(lambda line : line.split(" ")).map(lambda word : (word, 1)).reduceByKey(lambda a, b : a + b)
wordCount.foreach(print)

Spark 中运行结果及报错内容

img

pycharm中运行结果及报错内容

img

Process finished with exit code 1

我的解答思路和尝试过的方法

我以为是py4j文件目录有问题,后来发现不是;后来看pycharm报错是导入包文件的问题可能是版本兼容性问题

我想要达到的结果

正常运行代码

  • 写回答

0条回答 默认 最新

    报告相同问题?

    问题事件

    • 已结题 (查看结题原因) 6月19日
    • 赞助了问题酬金10元 6月19日
    • 创建了问题 6月18日

    悬赏问题

    • ¥15 删除虚拟显示器驱动 删除所有 Xorg 配置文件 删除显示器缓存文件 重启系统 可是依旧无法退出虚拟显示器
    • ¥15 vscode程序一直报同样的错,如何解决?
    • ¥15 关于使用unity中遇到的问题
    • ¥15 开放世界如何写线性关卡的用例(类似原神)
    • ¥15 关于并联谐振电磁感应加热
    • ¥60 请查询全国几个煤炭大省近十年的煤炭铁路及公路的货物周转量
    • ¥15 请帮我看看我这道c语言题到底漏了哪种情况吧!
    • ¥66 如何制作支付宝扫码跳转到发红包界面
    • ¥15 pnpm 下载element-plus
    • ¥15 解决编写PyDracula时遇到的问题