scala抽取shtd_store库中user_info的增量数据进入Hudi的ods_ds_hudi库中表user_info。根据ods_ds_hudi.user_info表中operate_time或create_time作为增量字段(即MySQL中每条数据取这两个时间中较大的那个时间作为增量字段去和ods里的这两个字段中较大的时间进行比较),只将新增的数据抽入,字段名称、类型不变,同时添加分区,若operate_time为空,则用create_time填充,分区字段为etl_date,类型为String,且值为当前比赛日的前一天日期(分区字段格式为yyyyMMdd)。id作为primaryKey,operate_time作为preCombineField
时间: 2023-12-10 17:38:40 浏览: 378
scala-xml_2.11-1.0.1-API文档-中文版.zip
5星 · 资源好评率100%
以下是Scala代码示例,实现抽取增量数据进入Hudi的ods_ds_hudi库中表user_info:
```scala
import org.apache.hudi.DataSourceWriteOptions._
import org.apache.hudi.QuickstartUtils._
import org.apache.hudi.config.HoodieWriteConfig._
import org.apache.hudi.hive.MultiPartKeysValueExtractor
import org.apache.hudi.keygen.SimpleKeyGenerator
import org.apache.spark.sql.{DataFrame, SaveMode, SparkSession}
import java.time.LocalDate
import java.time.format.DateTimeFormatter
object IncrementalDataImport {
def main(args: Array[String]): Unit = {
val spark = SparkSession.builder()
.appName("IncrementalDataImport")
.config("spark.serializer", "org.apache.spark.serializer.KryoSerializer")
.getOrCreate()
val jdbcUrl = "jdbc:mysql://localhost:3306/shtd_store?useSSL=false&serverTimezone=UTC"
val jdbcUser = "root"
val jdbcPassword = "root"
val hudiTablePath = "/user/hive/warehouse/ods_ds_hudi.db/user_info"
val hudiTableName = "user_info"
val primaryKey = "id"
val preCombineField = "operate_time"
val partitionField = "etl_date"
// 获取当前比赛日前一天的日期
val etlDate = LocalDate.now().minusDays(1).format(DateTimeFormatter.ofPattern("yyyyMMdd"))
// 读取MySQL中的user_info表
val user_info_df = spark.read.format("jdbc")
.option("url", jdbcUrl)
.option("driver", "com.mysql.jdbc.Driver")
.option("dbtable", "user_info")
.option("user", jdbcUser)
.option("password", jdbcPassword)
.load()
// 获取Hudi表中的增量数据
val hudiConfig = getQuickstartWriteConfigs
val hudiOptions = Map(HIVE_SYNC_ENABLED_OPT_KEY -> "true", HIVE_PARTITION_FIELDS_OPT_KEY -> partitionField, HIVE_DATABASE_OPT_KEY -> "ods_ds_hudi", HIVE_TABLE_OPT_KEY -> hudiTableName, HIVE_URL_OPT_KEY -> "jdbc:hive2://localhost:10000")
val hudiDf = spark.read.format("org.apache.hudi")
.options(hudiOptions)
.load(hudiTablePath + "/*/*/*/*")
// 取MySQL中每条数据的operate_time和create_time中较大的那个时间作为增量字段
val user_info_incremental_df = user_info_df
.filter("operate_time is not null or create_time is not null")
.withColumn("incremental_time", when($"operate_time".isNull, $"create_time").otherwise(when($"create_time".isNull, $"operate_time").otherwise(greatest($"operate_time", $"create_time"))))
.drop("operate_time", "create_time")
.withColumnRenamed("incremental_time", preCombineField)
// 将新增的数据抽入Hudi表中
val user_info_new_df = user_info_incremental_df.join(hudiDf, primaryKey)
.where(s"${hudiTableName}.${preCombineField} < ${user_info_incremental_df}.${preCombineField}")
.select(user_info_incremental_df.columns.head, user_info_incremental_df.columns.tail: _*)
.withColumn(partitionField, lit(etlDate))
// 将数据写入Hudi表中
user_info_new_df.write.format("org.apache.hudi")
.options(hudiConfig)
.option(PRECOMBINE_FIELD_OPT_KEY, preCombineField)
.option(RECORDKEY_FIELD_OPT_KEY, primaryKey)
.option(PARTITIONPATH_FIELD_OPT_KEY, partitionField)
.option(TABLE_TYPE_OPT_KEY, "COPY_ON_WRITE")
.option(KEYGENERATOR_CLASS_OPT_KEY, classOf[SimpleKeyGenerator].getName)
.option(HIVE_PARTITION_EXTRACTOR_CLASS_OPT_KEY, classOf[MultiPartKeysValueExtractor].getName)
.mode(SaveMode.Append)
.save(hudiTablePath)
}
}
```
在该代码示例中,我们使用了Apache Hudi库来实现增量数据导入,通过读取MySQL中的user_info表,并将其增量数据与Hudi表中的数据进行比较,只将新增的数据抽入Hudi表中。同时,我们添加了分区字段etl_date,将数据按照日期进行分区。其中,primaryKey指定为id,preCombineField指定为operate_time,partitionField指定为etl_date。
阅读全文