bp神经网络 权值调整

BP神经网络的权值调整是指通过训练来调整神经网络中各个神经元之间的连接权值，以达到网络输出结果与期望输出结果的误差最小化。具体步骤如下：

1. 前向传播：将输入样本送入神经网络，通过各层神经元的计算，得到网络的输出结果。

2. 反向传播：计算输出结果与期望输出结果之间的误差，并将误差从输出层向输入层反向传播，计算每个神经元的误差贡献。

3. 权值调整：根据误差贡献计算每个神经元的权值调整量，并将其累加到原有权值上，以更新神经元之间的连接权值。

4. 重复训练：重复以上步骤，直到网络输出结果与期望输出结果的误差达到预设的阈值或训练次数达到预设的上限。

下面是一个简单的Python实现，用于演示BP神经网络的权值调整过程：

import numpy as np

# 定义sigmoid函数
def sigmoid(x):
    return 1 / (1 + np.exp(-x))

# 定义BP神经网络类
class BPNeuralNetwork:
    def __init__(self, input_size, hidden_size, output_size):
        # 初始化权值和阈值
        self.W1 = np.random.randn(input_size, hidden_size)
        self.b1 = np.random.randn(hidden_size)
        self.W2 = np.random.randn(hidden_size, output_size)
        self.b2 = np.random.randn(output_size)

    def forward(self, X):
        # 前向传播
        self.z1 = np.dot(X, self.W1) + self.b1
        self.a1 = sigmoid(self.z1)
        self.z2 = np.dot(self.a1, self.W2) + self.b2
        self.a2 = sigmoid(self.z2)
        return self.a2

    def backward(self, X, y, learning_rate):
        # 反向传播
        delta2 = (self.a2 - y) * self.a2 * (1 - self.a2)
        delta1 = np.dot(delta2, self.W2.T) * self.a1 * (1 - self.a1)
        dW2 = np.dot(self.a1.T, delta2)
        db2 = np.sum(delta2, axis=0)
        dW1 = np.dot(X.T, delta1)
        db1 = np.sum(delta1, axis=0)

        # 权值调整
        self.W2 -= learning_rate * dW2
        self.b2 -= learning_rate * db2
        self.W1 -= learning_rate * dW1
        self.b1 -= learning_rate * db1

    def train(self, X, y, learning_rate, epochs):
        # 训练神经网络
        for i in range(epochs):
            self.forward(X)
            self.backward(X, y, learning_rate)

# 测试
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
y = np.array([[0], [1], [1], [0]])
nn = BPNeuralNetwork(2, 4, 1)
nn.train(X, y, 0.1, 10000)
print(nn.forward(X))