全部版块 我的主页
论坛 经济学论坛 三区 宏观经济学
1746 4
2022-01-07
2 小时入门 SparkSQL 编程[color=rgba(0, 0, 0, 0.3)]以下文章来源于算法美食屋[color=rgba(0, 0, 0, 0.3)] [color=rgba(0, 0, 0, 0.3)],作者梁云1991
[color=rgba(0, 0, 0, 0.3)]一、RDD、DataFrame和DataSet

DataFrame参照了Pandas的思想,在RDD基础上增加了schma,能够获取列名信息。

DataSet在DataFrame基础上进一步增加了数据类型信息,可以在编译时发现类型错误。

DataFrame可以看成DataSet[Row],两者的API接口完全相同。

DataFrame和DataSet都支持SQL交互式查询,可以和 Hive无缝衔接。

DataSet只有在Scala语言和Java语言的Spark接口中才支持,在Python和R语言接口只支持DataFrame,不支持DataSet。



二、创建DataFrame1、通过toDF方法创建

可以将Seq、List或者 RDD转换成DataFrame。



2、通过CreateDataFrame方法动态创建DataFrame

可以通过createDataFrame的方法指定rdd和schema创建DataFrame。

这种方法比较繁琐,但是可以在预先不知道schema和数据类型的情况下在代码中动态创建DataFrame。



3、通过读取文件创建

可以读取json文件、csv文件、hive数据表或者mysql数据表得到DataFrame。



三、创建DataSet

DataSet主要通过toDS方法从Seq、List或者RDD数据类型转换得到,或者从DataFrame通过as方法转换得到。


1、通过toDS方法创建


可以将Seq、List或者 RDD转换成DataFrame。


2、通过DataFrame的as转换方法得到DataSet

四、RDD,DataFrame和DataSet的相互转换Spark的RDD、DataFrame和DataSet三种数据结构之间可以相互转换。


五、DataFrame/DataSet保存成文件

可以保存成csv文件、json文件、parquet文件或者保存成hive数据表。



六,DataFrame的API交互

DataFrame和DataSet具有完全相同的API,此处演示DataFrame常用的一些API使用。


1、Action操作


DataFrame的Action操作包括:show、count、collect、collectAsList、describe、take、takeAsList、head、first等。



2、类RDD操作


DataFrame支持RDD常用的map、flatMap、filter、reduce、distinct、cache、sample、mapPartitions、foreach、intersect、except等操作。

可以把DataFrame当做数据类型为Row的RDD来进行操作。



3、类Excel操作


可以对DataFrame进行增加列、删除列、重命名列、排序等操作、去除重复行、去除空行,就跟操作Excel表格一样。



4、类SQL表操作


类SQL表操作包括表查询(select、selectExpr、where、filter),表连接(join、union、unionAll),表分组聚合(groupby、agg、pivot)等操作。



七、DataFrame的SQL交互

将DataFrame/DataSet注册为临时表视图或者全局表视图后,可以使用sql语句对DataFrame进行交互。


以下为示范代码。










二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2022-1-7 13:14:41
秃头女研究生 发表于 2022-1-7 09:51
2 小时入门 SparkSQL 编程以下文章来源于算法美食屋 ,作者梁云1991
一、RDD、DataFrame和DataSet
DataFr ...
谢谢分享
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-1-8 12:38:42
感谢分享
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-1-9 09:25:08
谢谢分享
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-1-9 09:37:04
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群