python实现标准bp算法

标准BP算法是一种常用的神经网络训练算法，它通过反向传播误差来更新神经网络的权重和偏置，从而实现对神经网络的训练。下面是Python实现标准BP算法的步骤：

1. 初始化神经网络的权重和偏置，可以使用随机数进行初始化。
2. 对于每个训练样本，进行前向传播计算输出值，并计算误差。
3. 对于每个输出层神经元，计算其误差项。
4. 对于每个隐藏层神经元，计算其误差项。
5. 根据误差项和学习率更新神经网络的权重和偏置。

下面是一个简单的Python实现标准BP算法的代码，其中使用了numpy库进行矩阵计算：

import numpy as np

def sigmoid(x):
    return 1.0 / (1 + np.exp(-x))

class NeuralNetwork:
    def __init__(self, input_dim, hidden_dim, output_dim):
        self.input_dim = input_dim
        self.hidden_dim = hidden_dim
        self.output_dim = output_dim
        self.W1 = np.random.randn(input_dim, hidden_dim)
        self.b1 = np.random.randn(hidden_dim)
        self.W2 = np.random.randn(hidden_dim, output_dim)
        self.b2 = np.random.randn(output_dim)

    def forward(self, X):
        self.z1 = np.dot(X, self.W1) + self.b1
        self.a1 = sigmoid(self.z1)
        self.z2 = np.dot(self.a1, self.W2) + self.b2
        self.a2 = sigmoid(self.z2)
        return self.a2

    def backward(self, X, y, output):
        self.output_error = y - output
        self.output_delta = self.output_error * sigmoid(self.z2) * (1 - sigmoid(self.z2))
        self.hidden_error = np.dot(self.output_delta, self.W2.T)
        self.hidden_delta = self.hidden_error * sigmoid(self.z1) * (1 - sigmoid(self.z1))
        self.W2 += np.dot(self.a1.T, self.output_delta)
        self.b2 += np.sum(self.output_delta, axis=0)
        self.W1 += np.dot(X.T, self.hidden_delta)
        self.b1 += np.sum(self.hidden_delta, axis=0)

    def train(self, X, y, epochs, learn_rate):
        for i in range(epochs):
            output = self.forward(X)
            self.backward(X, y, output)
            if i % 1000 == 0:
                print("Epoch:", i, "Loss:", np.mean(np.abs(self.output_error)))
        print("Final Loss:", np.mean(np.abs(self.output_error)))

X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
y = np.array([[0], [1], [1], [0]])

nn = NeuralNetwork(2, 3, 1)
nn.train(X, y, 10000, 0.1)