sparkmllib逻辑回归算法
时间: 2023-12-02 09:42:39 浏览: 97
Spark MLlib中的逻辑回归算法是一种有监督的分类算法,它可以用于二元分类和多元分类。下面是一个简单的演示例子:
```python
from pyspark.ml.classification import LogisticRegression
from pyspark.ml.evaluation import MulticlassClassificationEvaluator
from pyspark.ml.feature import VectorAssembler
from pyspark.sql import SparkSession
# 创建SparkSession
spark = SparkSession.builder.appName("LogisticRegressionExample").getOrCreate()
# 加载数据
data = spark.read.format("libsvm").load("data/mllib/sample_libsvm_data.txt")
# 将特征向量组装成一个向量
assembler = VectorAssembler(inputCols=data.columns[1:-1], outputCol="features")
data = assembler.transform(data).select("features", "label")
# 将数据集分为训练集和测试集
(trainingData, testData) = data.randomSplit([0.7, 0.3], seed=1234)
# 创建逻辑回归模型
lr = LogisticRegression(maxIter=10, regParam=0.3, elasticNetParam=0.8)
# 训练模型
model = lr.fit(trainingData)
# 预测测试集
predictions = model.transform(testData)
# 评估模型
evaluator = MulticlassClassificationEvaluator(predictionCol="prediction")
accuracy = evaluator.evaluate(predictions)
print("Test Error = %g" % (1.0 - accuracy))
# 关闭SparkSession
spark.stop()
```
在这个例子中,我们首先使用`VectorAssembler`将特征向量组装成一个向量,然后将数据集分为训练集和测试集。接着,我们创建一个逻辑回归模型,并使用训练集训练模型。最后,我们使用测试集对模型进行评估,并输出测试误差。
阅读全文