10、 dropDuplicates(colNames: Array[String]) 删除相同的列 返回一个dataframe 11、 except(other: DataFrame) 返回一个dataframe,返回在当前集合存在的在其他集合不存在的 12、 explode[A, B](inputColumn: String, outputColumn: String)(f: (A) ⇒ TraversableOnce[B])(implicit arg0: scala.reflect.api....
12、 toDF(colnames:String*)将参数中的几个字段返回一个新的dataframe类型的, 13、 unpersist() 返回dataframe.this.type 类型,去除模式中的数据 14、 unpersist(blocking:Boolean)返回dataframe.this.type类型 true 和unpersist是一样的作用false 是去除RDD 集成查询: 1、 agg(expers:column*) 返回dataframe类型 ,...
一、DataFrame对象的生成 Spark-SQL可以以其他RDD对象、parquet文件、json文件、Hive表,以及通过JDBC连接到其他关系型数据库作为数据源来生成DataFrame对象。本文将以MySQL数据库为数据源,生成DataFrame对象后进行相关的DataFame之上的操作。 文中生成DataFrame的代码如下: object DataFrameOperations{def main(args:Array[Strin...
11、 except(other: DataFrame) 返回一个dataframe,返回在当前集合存在的在其他集合不存在的 12、 explode[A, B](inputColumn: String, outputColumn: String)(f: (A) ⇒ TraversableOnce[B])(implicit arg0: scala.reflect.api.JavaUniverse.TypeTag[B]) 返回值是dataframe类型,这个 将一个字段进行更多行的拆...
DataFrame dataFrame2 = hc.createDataFrame(JavaRDD, schema) 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 二、DataFrame对象上Action操作 1、show:展示数据 以表格的形式在输出中展示jdbcDF中的数据,类似于select * from spark_sql_test的功能。 show方法有四种调用方式,分别为: ...
9、 show(n:Int)返回n行,,返回值类型是unit 10、 table(n:Int) 返回n行 ,类型是row 类型 DataFrame的基本操作 1、 cache()同步数据的内存 2、 columns 返回一个string类型的数组,返回值是所有列的名字 3、 dtypes返回一个string类型的二维数组,返回值是所有列的名字以及类型 ...
9、 show(n:Int)返回n行,,返回值类型是unit 10、 table(n:Int) 返回n行 ,类型是row 类型 DataFrame的基本操作 1、 cache()同步数据的内存 2、 columns 返回一个string类型的数组,返回值是所有列的名字 3、 dtypes返回一个string类型的二维数组,返回值是所有列的名字以及类型 ...
DataFrame 可以比作一个表格或电子表格，它有行和列，每一列都有一个名称和数据类型。就像你在 Excel ...
21、 selectExpr(exprs: String*) 做字段的刷选 df.selectExpr("name","name as names","upper(name)","age+1").show(); 22、 sort(sortExprs: Column*) 排序 df.sort(df("age").desc).show(); 默认是asc 23、 unionAll(other:Dataframe) 合并 df.unionAll(ds).show(); ...
show() } 3)as【常用】 @Test def as(): Unit ={ // 1. 读取 val schema = StructType( Seq( StructField("name", StringType), StructField("age", IntegerType), StructField("gpa", FloatType) ) ) val df: DataFrame = spark.read .schema(schema) .option("delimiter", "\t") .csv("...