基于几何的两步非线性分类:准线性支持向量机方法

PDF格式 | 1.16MB | 更新于2024-08-26 | 26 浏览量 | 0 下载量 举报
收藏
"准线性支持向量机的基于几何的两步非线性分类方法" 本文探讨了一种新颖的非线性分类技术,利用准线性支持向量机(Quasi-Linear Support Vector Machine, QLSVM)和几何分析,通过两步策略来构建高效的分类模型。首先,该方法的核心是识别数据中的局部线性分区(local linear partitions)。这一步通过一种基于几何的算法实现,能够检测数据集中可以被线性分割的部分。这些局部线性分类器随后被构建出来,它们在各自区域内有效地捕捉数据的线性结构。 在第一步之后,局部线性分类器被用于构建一个粗略的非线性分类器。通过插值技术,这些局部模型被整合成一个全局模型,从而能够处理原本无法用单一线性模型描述的复杂数据分布。这种方法的关键在于,它允许不同区域的线性分类器之间存在平滑过渡,避免了简单拼接可能产生的不连续性。 接下来,进入第二步,文章引入了支持向量机(SVM)的优化框架。SVM公式被用来进一步优化非线性分类器的线性参数,这使得最终的非线性模型不仅具有良好的分类性能,而且参数选择过程与标准SVM保持一致。这里的创新点在于使用了一种特殊的数据依赖的准线性核函数,该核函数由前面步骤中检测到的局部线性分区信息构成。这种核函数的设计能够更好地反映数据的内在结构,增强模型的表达能力。 在数值实验部分,作者在多个实际数据集上验证了该方法的有效性。实验结果表明,相较于传统的非线性SVM,该方法在面对过拟合问题时表现出更优的分类性能。这证明了其在处理复杂非线性问题时的优势,尤其是在那些标准SVM可能出现拟合不足或过拟合的场景下。 这项工作为非线性分类提供了一个新的视角,即通过局部线性化和几何理解来构建全局非线性模型。这种方法不仅提高了分类准确性和泛化能力,还降低了过拟合的风险,对于理解和改进非线性SVM的性能有着重要的理论与实践意义。该研究发表在2017年的《日本电气工程师学会交易》(IEEJ Transactions on Electrical and Electronic Engineering)上,由John Wiley & Sons, Inc.出版。

相关推荐