L5编程实验：OVO感知器与Softmax多类别分类对比分析

在本次L5编程作业中，李星毅教授利用Iris数据集进行了一系列的多类别分类实验。首先，以感知器算法为基础，构建了一个OVO（One-vs-One）多类分类器。OVO方法将多分类问题分解为一系列二分类问题，针对每一对类别进行训练。结果显示，第0、1类和第0、2类的分类准确率非常高，因为它们之间的区分度明显，容易被分类。然而，第1、2类由于重叠较多，分类相对困难，OVO分类器的总体准确率并不完全依赖于单个二分类器的性能，而是涉及到泛化能力。 为了改进感知器算法，实验者考虑了调整学习率和随机修正错误点的策略。学习率的选择对收敛速度和精度有显著影响，而随机错误点修正则有助于减少局部最优的问题。尽管如此，OVO算法的稳定性受到初始权重等因素的影响。 接着，作业还涉及了Softmax算法的实现，这是一种更为常见的多分类方法。Softmax算法通过对每个类别的概率进行归一化，实现了直接的多分类，其结果表明比PLAOVO（可能是指PLA+OVO）更稳定，预测精度也较高。SoftmaxRegression是LogisticRegression的扩展，适用于多分类问题，与OVO策略不同，它是一次性完成所有类别的分类决策，而非逐对比较。 数据预处理在整个实验中都非常重要，通过标准化处理，可以确保所有特征在同一尺度上，从而提高算法的性能和精度。值得注意的是，预处理是在训练集和测试集上分别进行的，而非对整个数据集统一处理，以保持训练和测试的独立性。 本作业通过对比不同的分类算法，强调了数据预处理、模型参数优化以及多分类策略对分类效果的影响，同时也揭示了在实际应用中需要考虑的泛化能力和算法稳定性问题。