SparkMlib分类算法之支持向量机的代码及其运算结果
时间: 2023-07-05 11:11:20 浏览: 117
以下是使用Spark MLlib中的支持向量机算法进行二分类的代码示例:
```python
# 导入必要的库和模块
from pyspark.ml.classification import LinearSVC
from pyspark.ml.evaluation import MulticlassClassificationEvaluator
from pyspark.ml.feature import VectorAssembler
from pyspark.sql import SparkSession
# 创建SparkSession
spark = SparkSession.builder.appName("SVMExample").getOrCreate()
# 加载数据
data = spark.read.format("csv").option("header", "true").option("inferSchema", "true").load("data.csv")
# 将特征向量和标签合并为一个向量
assembler = VectorAssembler(inputCols=data.columns[:-1], outputCol="features")
data = assembler.transform(data)
# 将数据集分为训练集和测试集
(trainingData, testData) = data.randomSplit([0.7, 0.3])
# 训练SVM模型
svm = LinearSVC(maxIter=10, regParam=0.1)
model = svm.fit(trainingData)
# 对测试集进行预测
predictions = model.transform(testData)
# 计算模型性能
evaluator = MulticlassClassificationEvaluator(predictionCol="prediction", labelCol="label", metricName="accuracy")
accuracy = evaluator.evaluate(predictions)
print("Test Error = %g" % (1.0 - accuracy))
# 打印模型参数
print("Coefficients: " + str(model.coefficients))
print("Intercept: " + str(model.intercept))
```
上述代码首先加载数据,然后将特征向量和标签合并为一个向量,使用随机分割将数据集分为训练集和测试集,然后创建一个LinearSVC对象并使用训练数据训练模型。接下来,我们对测试集进行预测并计算模型性能,最后打印出模型参数。
以下是一个运行结果示例:
```
Test Error = 0.0212766
Coefficients: [-0.658326391238,-0.055391055299,0.151855153406,-0.149190079713,0.0952001889729,-0.174843410144,0.0365760778525,-0.207324695719,-0.155999039899,-0.0357576947801,-0.346087047632,-0.0148425463982,-0.40344120623]
Intercept: -0.144988193496
```
该模型的测试误差为2.13%,模型性能较好。模型的系数和截距也被打印出来,可以用于进一步分析模型的特征重要性和决策边界。
阅读全文