《机器学习(周志华)》学习笔记.pdf - CSDN文库

需积分: 48 22 浏览量更新于2023-03-16 94 收藏 7.55MB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源推荐

《机器学习》学习笔记（1）--绪论

机器学习是目前信息技术中最激动人心的方向之一，其应用已经深入到生活的各个层面且与普

通人的日常生活密切相关。本文为清华大学最新出版的《机器学习》教材的 Learning Notes，

书作者是南京大学周志华教授，多个大陆首位彰显其学术奢华。本篇主要介绍了该教材前两个

章节的知识点以及自己一点浅陋的理解。

1 绪论

傍晚小街路面上沁出微雨后的湿润，和熙的细风吹来，抬头看看天边的晚霞，嗯，明天又是一

个好天气。走到水果摊旁，挑了个根蒂蜷缩、敲起来声音浊响的青绿西瓜，一边满心期待着皮

薄肉厚瓢甜的爽落感，一边愉快地想着，这学期狠下了工夫，基础概念弄得清清楚楚，算法作

业也是信手拈来，这门课成绩一定差不了！哈哈，也希望自己这学期的 machine learning 课程

取得一个好成绩！

1.1 机器学习的定义

正如我们根据过去的经验来判断明天的天气，吃货们希望从购买经验中挑选一个好瓜，那能不

能让计算机帮助人类来实现这个呢？机器学习正是这样的一门学科，人的“经验”对应计算机

中的“数据”，让计算机来学习这些经验数据，生成一个算法模型，在面对新的情况中，计算

机便能作出有效的判断，这便是机器学习。

另一本经典教材的作者 Mitchell 给出了一个形式化的定义，假设：

 P：计算机程序在某任务类 T 上的性能。

 T：计算机程序希望实现的任务类。

 E：表示经验，即历史的数据集。

若该计算机程序通过利用经验 E 在任务 T 上获得了性能 P 的改善，则称该程序对 E 进行了学

习。

1.2 机器学习的一些基本术语

假设我们收集了一批西瓜的数据，例如：（色泽=青绿;根蒂=蜷缩;敲声=浊响)， (色泽=乌黑;

根蒂=稍蜷;敲声=沉闷)， (色泽=浅自;根蒂=硬挺;敲声=清脆)……每对括号内是一个西瓜的记录，

定义：

 所有记录的集合为：数据集。

 每一条记录为：一个实例（instance）或样本（sample）。

 例如：色泽或敲声，单个的特点为特征（feature）或属性（attribute）。

 对于一条记录，如果在坐标轴上表示，每个西瓜都可以用坐标轴中的一个点表示，一个

点也是一个向量，例如（青绿，蜷缩，浊响），即每个西瓜为：一个特征向量（feature

vector）。

 一个样本的特征数为：维数（dimensionality），该西瓜的例子维数为 3，当维数非常大

时，也就是现在说的“维数灾难”。

在计算机程序学习经验数据生成算法模型的过程中，每一条记录称为一个“训练样本”，同时

在训练好模型后，我们希望使用新的样本来测试模型的效果，则每一个新的样本称为一个“测

试样本”。定义：

 所有训练样本的集合为：训练集（trainning set），[特殊]。

 所有测试样本的集合为：测试集（test set），[一般]。

 机器学习出来的模型适用于新样本的能力为：泛化能力（generalization），即从特殊到

一般。

在西瓜的例子中，我们是想计算机通过学习西瓜的特征数据，训练出一个决策模型，来判断一

个新的西瓜是否是好瓜。可以得知我们预测的是：西瓜是好是坏，即好瓜与差瓜两种，是离散

值。同样地，也有通过历年的人口数据，来预测未来的人口数量，人口数量则是连续值。定义：

 预测值为离散值的问题为：分类（classification）。

 预测值为连续值的问题为：回归（regression）。

在我们预测西瓜是否是好瓜的过程中，很明显对于训练集中的西瓜，我们事先已经知道了该瓜

是否是好瓜，学习器通过学习这些好瓜或差瓜的特征，从而总结出规律，即训练集中的西瓜我

们都做了标记，称为标记信息。但也有没有标记信息的情形，例如：我们想将一堆西瓜根据特

征分成两个小堆，使得某一堆的西瓜尽可能相似，即都是好瓜或差瓜，对于这种问题，我们事

先并不知道西瓜的好坏，样本没有标记信息。定义：

剩余137页未读，继续阅读

碱基矿工

粉丝: 18
资源: 3

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈