基于鸢尾花数据集实现线性判别式多分类基于鸢尾花数据集实现线性判别式多分类
基于鸢尾花数据集实现线性判别式多分类基于鸢尾花数据集实现线性判别式多分类
本文在自己编写梯度下降的逻辑斯蒂判别式算法的基础上，对鸢尾花数据集实现多分类。
鸢尾花数据集公包含三类数据，每条数据四个特征，从中随机选取70%的数据作为训练集，30%的数据作为测试集。
主要包含三个函数：随机生成70%测试集函数、训练函数、预测函数
随机生成随机生成70%测试集函数测试集函数 randomdata
输入：无
输出：0-49之间的35个随机数
代码：
def randomdata():
array = set()
while(len(array) < 50*0.7):
n = random.randint(0,49)
if(n in array):
continue
else:
array.add(n)
return array
训练函数训练函数 lda
输入：数据datas，标签labels，
输出：参数w
代码：
def lda(datas,labels):
means=datas.mean(axis=0) #各个属性的均值
stds=datas.std(axis=0) #各个属性的标准差
N,M= datas.shape[0],datas.shape[1]+1 #N是样本数，M是参数向量的维 150 2
K=3 #k=3是类别数
data=np.ones((N,M))
data[:,1:]=(datas-means)/stds #对原始数据进行标准差归一化 第一列是常数
w=np.zeros((K,M)) #存储参数矩阵 np.dot(x,y) (特征数，种类数)
w = np.random.rand(K,M)*2-1
w = w/100
learningrate = 0.02
labels = np.array(labels)
for k in range(1000):
sita = np.dot(w,data.T)
y = np.exp(sita)
for j in range(N):
sum = 0
for i in range(len(y)):
sum += y[i,j] for i in range(len(y)):
if(sum == 0):
y[i,j] = 0
else:
y[i,j] = y[i,j]/sum
y = labels.T - y
deltaw = np.dot(y,data)
w = w + learningrate*deltaw
if(k % 100 == 0):
print(w)
return w
预测函数预测函数
输入：测试数据集datas，参数w，表现labels，
输出：预测准确率per
代码：
def predict(datas,w,labels):
means=datas.mean(axis=0) #各个属性的均值
stds=datas.std(axis=0) #各个属性的标准差
