机器学习与数据挖掘笔记感知机

关于机器学习和数据挖掘中感知机的学习笔记
感知机简介
感知机是一种用于线性分类的监督学习算法，属于最简单的神经网络形式之一。该模型由两层组成：输入层和输出层，其中权重连接这两层节点[^1]。
数学表达式
感知机通过计算加权求和并应用激活函数来决定最终输出类别标签。具体来说：
[ f(x)=sign(\sum_{i=0}^{n}{w_ix_i}) ]
这里 ( w_i ) 表示第 i 维特征对应的权重参数，( x_i ) 是相应维度上的输入变量值，而 sign 函数用来判断正负号从而得出所属类别。
import numpy as np

def perceptron_predict(X, weights):
"""基于给定权重预测单个样本X的结果"""
z = np.dot(weights.T, X)
return 1 if z >= 0 else -1
登录后复制
学习策略
为了调整初始设定不当或者随机初始化后的权重向量使之逐渐逼近最优解，采用误分类最小化原则更新规则如下所示:
如果实例被错误划分，则按照一定步长修正当前方向直至收敛为止；反之保持不变继续下一个训练样例直到遍历整个集合完成一轮迭代循环操作。
learning_rate = 0.1 # 步长大小可调参优化设置

for epoch in range(max_epochs):
for xi, target in zip(X_train, y_train):
update = learning_rate * (target - predict(xi))
weights += update * xi
登录后复制
应用场景
尽管简单朴素却有着广泛应用背景，比如垃圾邮件过滤器设计当中可以利用其快速高效的特点实现初步筛选工作；另外图像边缘轮廓提取任务里也能发挥重要作用等等[^2]。