python实现softmax regression

Python实现softmax regression（也称为多类别逻辑回归）可以使用NumPy库来进行数值计算。下面是一个简单的示例代码：

import numpy as np

def softmax_regression(X, y, num_classes, learning_rate, num_iterations):
    num_features = X.shape[1]
    theta = np.zeros((num_features, num_classes))

    for i in range(num_iterations):
        scores = np.dot(X, theta)
        exp_scores = np.exp(scores)
        probs = exp_scores / np.sum(exp_scores, axis=1, keepdims=True)

        # 计算损失函数
        loss = -np.log(probs[range(len(X)), y])
        data_loss = np.sum(loss) / len(X)

        # 计算梯度
        d_probs = probs
        d_probs[range(len(X)), y] -= 1
        d_probs /= len(X)

        d_theta = np.dot(X.T, d_probs)

        # 更新参数
        theta -= learning_rate * d_theta

    return theta

# 示例数据
X = np.array([[1, 2, 3],
              [4, 5, 6],
              [7, 8, 9],
              [10, 11, 12]])
y = np.array([0, 1, 2, 1])

# 调用softmax_regression函数进行训练
num_classes = len(np.unique(y))
learning_rate = 0.01
num_iterations = 1000
theta = softmax_regression(X, y, num_classes, learning_rate, num_iterations)

print("训练得到的参数theta：")
print(theta)

这段代码实现了softmax regression的训练过程。首先，定义了一个softmax_regression函数，该函数接受输入特征矩阵X、标签向量y、类别数量num_classes、学习率learning_rate和迭代次数num_iterations作为参数。在函数内部，首先初始化参数theta为全零矩阵。然后，通过迭代更新参数theta，直到达到指定的迭代次数。在每次迭代中，计算得分矩阵scores、概率矩阵probs和损失函数loss。然后，计算梯度d_theta，并使用学习率更新参数theta。最后，返回训练得到的参数theta。

在示例数据部分，定义了一个简单的输入特征矩阵X和标签向量y。调用softmax_regression函数进行训练，并打印训练得到的参数theta。