pyspark 将指定列合并成list

可以使用 pyspark 中的 collect_list 函数将指定列合并成 list，示例代码如下：

from pyspark.sql.functions import collect_list

df = spark.createDataFrame([(1, 'a'), (1, 'b'), (2, 'c'), (2, 'd')], ['id', 'value'])
result = df.groupBy('id').agg(collect_list('value').alias('value_list'))
result.show()

输出结果为：

+---+----------+
| id|value_list|
+---+----------+
|  1|    [a, b]|
|  2|    [c, d]|
+---+----------+

相关问题

pyspark 中某列的元素怎么合并成到一个list

可以使用 pyspark 中的 groupBy 和 collect_list 函数来实现将某列的元素合并成一个 list，示例代码如下：

from pyspark.sql.functions import collect_list

df.groupBy("某列").agg(collect_list("要合并的列")).show()

其中，"某列" 是要进行分组的列名，"要合并的列" 是要合并的列名。执行该代码后，会将同一分组下的所有元素合并成一个 list。

pyspark dataframe如何将一列str转换成列表

可以使用split函数将一个字符串分割并转化成列表。示例代码如下：

from pyspark.sql.functions import split

df = df.withColumn("list_col", split(df.str_col, ","))

其中，`df`为DataFrame对象，`str_col`为需要转换的字符串列名，`list_col`为生成的列表列名。split函数的第一个参数为需要进行分割的字符串列，第二个参数为分隔符，这里使用了逗号。