这个城市的深夜没有远 2015-11-15 02:19 采纳率: 100%
浏览 2039
已采纳

spark整合tachyon一直报连接失败

Failed to connect (1) with master @ master/192.168.111.130:19998 : java.net.ConnectException: Connection refused

详细日志:
org.apache.thrift.TException: Service name not found in message name: user_getUserId. Did you forget to use a TMultiplexProtocol in your client?
at org.apache.thrift.TMultiplexedProcessor.process(TMultiplexedProcessor.java:103)
at org.apache.thrift.server.TThreadPoolServer$WorkerProcess.run(TThreadPoolServer.java:285)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
at java.lang.Thread.run(Thread.java:745)

  • 写回答

2条回答 默认 最新

  • 关注

    历时一周,终于解决这个问题。感叹自学不容易呀。总结问题原因:
    1、spark整合tachyon,tachyon好像必须基于hdfs,也就是
    export TACHYON_UNDERFS_ADDRESS=hdfs://master:9000/tachyon 必须配置成hdfs形式。 (猜测)
    2、tachyon基于hdfs,默认的tachyon二进制包基于hadoop1.x,2.x 需要自己编译
    3、spark和tachyon的兼容的版本号要对,最好要选官方推荐的
    Spark Version Tachyon Version
    1.0.x and Below v0.4.1
    1.1.x v0.5.0
    1.2.x v0.5.0
    1.3.x v0.5.0
    1.4.x v0.6.4
    1.5.x v0.7.1
    4、配置tachyon-env.sh中环境变量要多小心,export TACHYON_MASTER_ADDRESS=master
    export TACHYON_UNDERFS_ADDRESS=hdfs://master:9000/tachyon 一定要保证对
    5、core-site.xml 在hadoop中配置就好,spark conf中就不要配了,不然spark-env.sh中指定HADOOP_CONF_DIR会加载2次
    6、spark1.3 + 的版本好像自己集成了tachyon-client,不用自己再指定了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥100 求数学坐标画圆以及直线的算法
  • ¥35 平滑拟合曲线该如何生成
  • ¥100 c语言,请帮蒟蒻写一个题的范例作参考
  • ¥15 名为“Product”的列已属于此 DataTable
  • ¥15 安卓adb backup备份应用数据失败
  • ¥15 eclipse运行项目时遇到的问题
  • ¥15 关于#c##的问题:最近需要用CAT工具Trados进行一些开发
  • ¥15 南大pa1 小游戏没有界面,并且报了如下错误,尝试过换显卡驱动,但是好像不行
  • ¥15 自己瞎改改,结果现在又运行不了了
  • ¥15 链式存储应该如何解决