Data吴彦祖 2022-11-29 23:12 采纳率: 90%
浏览 18
已结题

dataframe,rdd相关语法懂得了的话在开发的过程中又有什么用途呢,或者有什么优势呢?

最近学习了spark的相关内容,其中spark是具有分布式数据集RDD的,在RDD的基础上又可以生成DataFrame,DataFrame相比RDD它抽象成传统的二维表结构,同时还具有schema元数据信息方便管理和使用。如果要使用spark.sql查询的话需要将df预注册为临时表才能使用sql形式查询。但是在完成了spark和hive的集成后(spark on hive)元数据可以由metastore来管理,sparksql可以直接查询表格,无需将df预注册为临时表。而紧接着又有spark Thriftserver,通过启动该服务,可以直接免去创建dataframe等一系列的操作,仅仅按照sql操作即可。那么dataframe,rdd相关语法懂得了的话在开发的过程中又有什么用途呢,或者有什么优势呢?

  • 写回答

1条回答 默认 最新

  • Hub-Link 2022-11-30 11:23
    关注

    那么dataframe,rdd相关语法懂得了的话在开发的过程中又有什么用途呢,或者有什么优势呢?----- 这些懂了可以更加清楚spark的数据转换过程,知道的底层更对多对写代码的优化会更加好

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

问题事件

  • 系统已结题 2月2日
  • 已采纳回答 1月25日
  • 创建了问题 11月29日