琋玥 2017-11-23 11:34 采纳率: 0%
浏览 3580

zeppelin连接hive和spark遇到的问题

1.连接hive的时候
zeppelin使用hiveserver2连接hive,由于元数据过多,赶脚zeppelin每次都在遍历元数据,每次执行语句都有1个多小时的延迟

2.连接sparksql报错
java.lang.NoSuchFieldError: HIVE_STATS_JDBC_TIMEOUT
at org.apache.spark.sql.hive.HiveUtils$.hiveClientConfig

  • 写回答

1条回答

  • 琋玥 2017-11-27 08:11
    关注

    自己顶下吧,
    hive的问题还没有找到答案
    spark的问题已经解决了 这个问题主要是spark的客户端没有配置好,重新配置了客户端之后就不再报这个错了
    但是后续又遇到了两个问题,一个是 org.apache.spark.SparkException: Found both spark.driver.extraClassPath and SPARK_CLASSPATH. Use only the former. 需要修改修改bin/interpreter.sh 去除 --driver-class-path"${ZEPPELIN_CLASSPATH_OVERRIDES}:${CLASSPATH}"
    另个一是 java.lang.RuntimeException: Stream '/jars/jars' was not found.
    修改 conf/zeppelin-env.sh export SPARK_SUBMIT_OPTIONS="--jars /home/hadoop/spark-2.0.0-bin-hadoop2.6/jars/mysql-connector-java-5.1.11-bin.jar"

    评论

报告相同问题?

悬赏问题

  • ¥15 #MATLAB仿真#车辆换道路径规划
  • ¥15 java 操作 elasticsearch 8.1 实现 索引的重建
  • ¥15 数据可视化Python
  • ¥15 要给毕业设计添加扫码登录的功能!!有偿
  • ¥15 kafka 分区副本增加会导致消息丢失或者不可用吗?
  • ¥15 微信公众号自制会员卡没有收款渠道啊
  • ¥100 Jenkins自动化部署—悬赏100元
  • ¥15 关于#python#的问题:求帮写python代码
  • ¥20 MATLAB画图图形出现上下震荡的线条
  • ¥15 关于#windows#的问题:怎么用WIN 11系统的电脑 克隆WIN NT3.51-4.0系统的硬盘