双隐含层bp神经网络代码
时间: 2023-08-29 09:02:22 浏览: 196
双隐含层的BP神经网络是一种具有两个隐藏层的反向传播神经网络。在神经网络模型中,隐藏层是介于输入层和输出层之间的层次,用于提取输入数据的特征和进行数据的非线性映射。
以下是一个使用Python编写的双隐含层BP神经网络的简单代码示例:
```python
import numpy as np
def sigmoid(x):
return 1 / (1 + np.exp(-x))
def derivative_sigmoid(x):
return sigmoid(x) * (1 - sigmoid(x))
class NeuralNetwork:
def __init__(self, input_size, hidden_size1, hidden_size2, output_size):
self.input_size = input_size
self.hidden_size1 = hidden_size1
self.hidden_size2 = hidden_size2
self.output_size = output_size
# 随机初始化权重和偏置
self.W1 = np.random.randn(self.input_size, self.hidden_size1)
self.b1 = np.zeros((1, self.hidden_size1))
self.W2 = np.random.randn(self.hidden_size1, self.hidden_size2)
self.b2 = np.zeros((1, self.hidden_size2))
self.W3 = np.random.randn(self.hidden_size2, self.output_size)
self.b3 = np.zeros((1, self.output_size))
def feedforward(self, X):
self.z1 = np.dot(X, self.W1) + self.b1
self.a1 = sigmoid(self.z1)
self.z2 = np.dot(self.a1, self.W2) + self.b2
self.a2 = sigmoid(self.z2)
self.z3 = np.dot(self.a2, self.W3) + self.b3
self.a3 = sigmoid(self.z3)
return self.a3
def backpropagation(self, X, y, learning_rate):
m = X.shape[0]
# 计算输出层的误差
delta3 = (self.a3 - y) * derivative_sigmoid(self.z3)
# 计算隐藏层2的误差
delta2 = np.dot(delta3, self.W3.T) * derivative_sigmoid(self.z2)
# 计算隐藏层1的误差
delta1 = np.dot(delta2, self.W2.T) * derivative_sigmoid(self.z1)
# 更新权重和偏置
self.W3 -= learning_rate * np.dot(self.a2.T, delta3)
self.b3 -= learning_rate * np.sum(delta3, axis=0, keepdims=True)
self.W2 -= learning_rate * np.dot(self.a1.T, delta2)
self.b2 -= learning_rate * np.sum(delta2, axis=0, keepdims=True)
self.W1 -= learning_rate * np.dot(X.T, delta1)
self.b1 -= learning_rate * np.sum(delta1, axis=0, keepdims=True)
def train(self, X, y, epochs, learning_rate):
for epoch in range(epochs):
output = self.feedforward(X)
self.backpropagation(X, y, learning_rate)
def predict(self, X):
return np.round(self.feedforward(X))
# 示例数据
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
y = np.array([[0], [1], [1], [0]])
# 创建神经网络对象
nn = NeuralNetwork(2, 4, 4, 1)
# 训练神经网络
nn.train(X, y, epochs=10000, learning_rate=0.1)
# 预测结果
print(nn.predict(X))
```
以上代码实现了一个有两个隐藏层的BP神经网络。其中,`__init__`函数用于初始化权重和偏置,`feedforward`函数用于前向传播计算输出,`backpropagation`函数用于反向传播计算梯度并更新参数,`train`函数用于模型训练,`predict`函数用于预测输出结果。
这段代码中的示例数据是一个XOR逻辑门的输入和期望输出,模型通过训练来逼近期望输出。通过运行这段代码,可以看到神经网络最终得到的输出结果接近期望输出。
阅读全文