没有合适的资源?快使用搜索试试~ 我知道了~
首页LSSVM工具箱中文版-LS-SVM.doc
LSSVM工具箱中文版-LS-SVM.doc
需积分: 44 89 下载量 186 浏览量
更新于2023-03-16
评论 3
收藏 658KB DOC 举报
LSSVM工具箱中文版-LS-SVM.doc 高手翻译的,拿来分享。
资源详情
资源评论
资源推荐
最小二乘支持向量机 1.6 版
前言
对于以前的版本 版的工具箱和更新现有的一些命令我们增加了新功能。由于许多
读者都是熟悉的版本 布局,我们试图尽可能少地改变它。主要的区别加速了一些方法
的实现。这里是一个简要的主要变化:
!
的路线图"增添更多的回归和
分类的例子"界面更容易,多级分类"改变执
行了健全 !。
#
回归或分类的可能性只使用一条命令即
可,功能验证已经被删除,更快(强劲)训
练和(强大)模型选择标准被提供给用户,
以防万一,稳健回归不同的函数必须要和与
迭代重加权 $ 一起使用。
%
所有 &' 和或 文件已被删除。求
解线该性系统通过使用 ()(* 命令“反斜
杠”(+)
第一章 引言
在解决非线性分类,函数估计和密度估计问题中,支持向量机是一个很强大的方法,
支持向量机也致使了其核心的新动向,最新发展事基于一般学习方法的。支持向量机应经
被引入统计学习理论和结构风险最小化之中。这些方法中,凸优化问题,解决了一个典型的
二次规划问题。LS-SVM 是标准 SVM 的改进,这样就可以解决线性 kkt 系统的问题了。最
小二乘支持向量机与正规化网络和高斯过程密切相关,但更加重视和利用原始对偶的规范
条款解释。经典的模式识别算法的内核版本如判别分析的内核 Fisher,以非监督学习、循
环式网络扩展和控制之间的链接是可用的。健全性、稀疏性、权重可以被应用到 LS-SVM
上,并具有三个层次的推理贝叶斯框架已经制定。LS – SVM 像原始对偶那样配方给予核
PCA,核 CCA 和 PLS。对于非常大的规模问题和在线学习,一个固定大小的 LS - SVM 方
法被提出,它基于 Nystrom 在原始空间中支持向量的积极选择和估计的近似值。原始对偶
申述的方法被开发为核心谱聚类,数据可视化,降维和生存分析。
目前 LS- SVMlab 工具箱用户指南包含了大量 MATALAB 中 LS - SVM 算法的实现,其
中 涉及分类,回 归 , 时 间 序 列预测和无监督 学 习 。 所 有 的 功 能 都 已经用 Matlab 从
R2008a,R2008b,R2009a 测试,工具箱中参考命令都以打印字体书写。
LS – SVMlab 主页:
,-!
第二章 LS--SVMlab 一窥
该工具箱主要用于商业用 Matlab 软件包使用。Matlab 的工具箱已经在不同的计算机
体系结构编译和测试,包括 Linux 和 Windows。大部分函数可以处理的数据集可高达
20,000 或更多点的数据。LS- SVMlab 对 Matlab 接口包括一个适合初学者的基本版本,
以及一个多类编码技术和贝叶斯框架的更先进的版本。未来版本将逐步加入新成果的和额
外的功能。
大量功能受到最小二乘-支持向量机的限制(其中包括“最小二乘支持向量机在函数中”
的扩展名),其余的都是一般使用。大量的演示说明如何使用工具箱中的不同功能。
Matlab 的函数接口以两种方式组织:例如在网络实验室人们可以根据自己的选择将函数既
可以按照功能性方式调用又可以按照面向对象的结构方式调用。
2.1 分类和优化
调用函数:!.!!.!.!.!"
演示:/!./!
Matlab 的工具箱是围绕一个快速 LS - SVM 的训练和模拟算法而建立的。相应的函
数调用可用于分类以及函数估计。函数 plotlssvm 显示该模型在培训点区域模拟结果。
通过执行 Matlab 中灵活和简单代码(lssvmMATLAB.m)来求解线性系统,它基于
Matlab 矩阵分解(反斜杠命令\为准)。
对单个和多个输出回归和分类的函数都可以使用。训练和模拟可以做到为每个输出
分别通过传递不同的核函数,内核和/或作为列向量正规化参数。执行工具箱中其他核函
数也是简单的。
一个模型的性能依赖于输入数据和输出数据的缩放。一个适当的算法检测,适当的
重新调整重设比例,分类和二进制变量。
2.1.1 分类扩展
调用函数:/!././!..!
演示:./!
大量附加功能的文件是可用于分类工作的。对于模拟分类模型的潜变量是通过模拟得到的连
续的结果,这个结果最终是离散的。受试者工作特征曲线(01)可以用来衡量一个分类器的性
能。多类分类问题分解成多个二元分类任务。几种编码方案可以用在了这一点:最小输出,一比
一,一对多和纠错编码方案。可以用海明距离,损失函数距离和贝叶斯损解码来解码一个给定的
结果。一个偏差期限校正是可以做,然而对于小数据集是特别有趣的。
2.1.2 调谐,稀疏,完整性
调用函数:!./!.!.
!.!"
演示:, /!./!./!!/
估算训练模式的泛化性能的很多方法都包括在内。对于分类,可以用错误分类率
(misclass)来表述。对重复培训和验证为基础的估计都是通过 crossvalidatelssvm 和
leaveoneoutlssvm 来实现的。一个强大的 crossvalidation(关于迭代重加权 LS - SVM
的)分数由 rcrossvalidatelssvm 函数被调用。这些绩效措施,可用于确定调整参数(如正
规化和内核参数的 LS - SVM 的(tunelssvm))。减少一个 LS - SVM 的模型的复杂性可
以通过反复修剪较重要支持值(sparselssvm). 在数据中的异常值的情况下,支持数值的
更正将改进模型(robustlssvm).
2.1.3 贝叶斯框架
调用函数:23!.23!4.23!(05.23.
23!/.
-.6
演示:
计算模型的后验概率和不同层次的推理中超参数的函数是可以用的。通过考虑模型和
超参数的不确定性得到误差线。进行分类,一类可以估算后概率(这也被称为主持输出)
(bay_modoutClass)。在贝叶斯框架中使用特征值分解核矩阵。矩阵的大小 会随着数据
点的数量而增长。因此,人们需要逼近技术处理大型数据集。众所周知,主要特征值和相
应的特征向量是相关的。因此,,迭代逼近方法,如作为 Nystrom 方法包括在内,这也是
高斯过程中经常使用。输入选择可以通过自动关联的测定(bay_lssvmARD)。 对于一个
落后的变量的选择,贝叶斯框架推断的第三个层次对这个问题来说最合适的运用。
2.2 NARX 模型及预测
调用函数:/./4"
演示:
对非线性 NARX 时间序列应用系统可以扩散。一个 NARX 模型能够建立基于非线性
回归量,这是通过对过去数据的输出(或输入)的测量来估计下一次迭代输出的值。使一
个数据集通过窗口和 NARX 窗口转变为一个新的输入(过去测量的)和输出集(未来的输
出),这两个窗口分别为时间序列事件和一般的外部输入 NARX 事件。迭代预测(在递归
方法中)下一个输出,该输出是基于先前的预测,及初始值都是由预测来工作。
2.3 非监督学习
调用函数:-./3-.!63"
演示:
非监督学习可以基于主成分分析(kpca)所描述的内核进行工作,为此,一种对最小
二乘支持向量机的原始双重的解释得到屈服,这也将进一步扩展到内核典型相关分析和内
核偏最小二乘法。
2.4 通过固定大小的最小二乘支持矢量机解决大型规模问题
调用函数:/!37 /4.(8&!.-2"
演示:./!37 /4./!37 /
例如喜欢基于最小二乘支持向量机算法的典型内核通常具有记忆功能和算法复杂度为
O(N 2)的计算要求。为绕过这个瓶颈,对大规模的工作方法提出了解决方案。对于大型数
据集,将有利于在原始权空间解决最小二乘问题,这是由于当时未知数向量大小是与特征
向量大小是成比例的,而不是数据点的数量。但是,该特征空间映射是由内核诱导的,而
内核又需要获得非线性,因此,提出了一种固定大小的最小二乘支持向量机的方法。首先,
Nystr¨om 方法能够用来估计特征空间的映射。Nystr¨om 近似值,内核主成分分析和密度估
计之间的联系已被讨论。在固定大小的最小二乘支持向量机中,聘请了明确的原始对偶
LS-SVM 的解释,将它们联系起来。根据二次 Renyi 熵准则选择支持向量机。最后一步,
在原始空间中完成回归,原始空间为求解大规模非线性函数估计和分类问题提供了适当的
方法。而固定大小的最小二乘支持向量机的方法正适合处理非常大的数据集。
另一个选择子集的标准由[41] and [24]提出,并与之有很紧密的联系。它衡量特征空
间和由子集引起的空间逼近的质量(视为自动特征提取或 AFEm)。该子集被认为是从数
据(子样本)提取的随机子样本。
第三章 LS-SVMlab 工具箱举例
3.1 LS – SVM 布局
在这节中,我们简单地概括一下如何获得的 模型(用于分类和回归有效),
见图 #
面向功能或面向对象接口(!)之间进行选择,见图 (#
寻找合适的优化参数(! 搜索),见图 (##
# 训练原先确定优化参数的给定模型9!:,见图 (##%
%例如模拟模型测试数据(!!),见图 (##
%必要的时候将结果可视化(!),见图 (#%
3.2 分类
首先,对工具箱中进行任务分类的可能性说明。
3.2.1 hello world
剩余23页未读,继续阅读
weixin_39840914
- 粉丝: 435
- 资源: 1万+
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- ExcelVBA中的Range和Cells用法说明.pdf
- 基于单片机的电梯控制模型设计.doc
- 主成分分析和因子分析.pptx
- 共享笔记服务系统论文.doc
- 基于数据治理体系的数据中台实践分享.pptx
- 变压器的铭牌和额定值.pptx
- 计算机网络课程设计报告--用winsock设计Ping应用程序.doc
- 高电压技术课件:第03章 液体和固体介质的电气特性.pdf
- Oracle商务智能精华介绍.pptx
- 基于单片机的输液滴速控制系统设计文档.doc
- dw考试题 5套.pdf
- 学生档案管理系统详细设计说明书.doc
- 操作系统PPT课件.pptx
- 智慧路边停车管理系统方案.pptx
- 【企业内控系列】企业内部控制之人力资源管理控制(17页).doc
- 温度传感器分类与特点.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0