idea中spark程序代码
时间: 2023-09-05 15:11:02 浏览: 126
IntelliJ Idea开发spark程序及运行
以下是一个简单的 Spark 程序的代码示例,它使用 Spark SQL 查询一个 CSV 文件中的数据并计算平均值:
```scala
import org.apache.spark.sql.SparkSession
object SparkExample {
def main(args: Array[String]): Unit = {
val spark = SparkSession.builder()
.appName("SparkExample")
.master("local[*]")
.getOrCreate()
val df = spark.read
.option("header", "true")
.option("inferSchema", "true")
.csv("path/to/csv/file")
df.createOrReplaceTempView("data")
val result = spark.sql("SELECT AVG(value) FROM data")
result.show()
spark.stop()
}
}
```
此代码首先创建了一个 SparkSession 对象,并指定了应用程序名称和执行模式。然后,它使用 Spark SQL 读取一个 CSV 文件,并将其存储在 DataFrame 中。接下来,它将 DataFrame 注册为一个临时表,以便可以使用 Spark SQL 进行查询。最后,它执行一个计算平均值的 SQL 查询,并将结果打印到控制台上。最后,它停止 SparkSession 对象的执行。
阅读全文