用python写一个bp神经网络程序,并使用实例测试,并对程序每行进行解释注释
时间: 2023-06-13 11:03:31 浏览: 103
好的,下面是一个简单的BP神经网络程序,使用Python语言进行实现,同时附带注释说明。
```python
import numpy as np
# 定义sigmoid函数
def sigmoid(x):
return 1 / (1 + np.exp(-x))
# 定义BP神经网络类
class BPNN:
def __init__(self, input_dim, hidden_dim, output_dim):
self.input_dim = input_dim # 输入层维度
self.hidden_dim = hidden_dim # 隐藏层维度
self.output_dim = output_dim # 输出层维度
# 初始化权重矩阵
self.weight_ih = np.random.randn(hidden_dim, input_dim) # 输入层到隐藏层的权重矩阵
self.weight_ho = np.random.randn(output_dim, hidden_dim) # 隐藏层到输出层的权重矩阵
# 初始化偏置向量
self.bias_h = np.random.randn(hidden_dim, 1) # 隐藏层的偏置向量
self.bias_o = np.random.randn(output_dim, 1) # 输出层的偏置向量
# 前向传播
def forward(self, x):
# 计算隐藏层的输入
hidden_input = np.dot(self.weight_ih, x) + self.bias_h
# 计算隐藏层的输出
hidden_output = sigmoid(hidden_input)
# 计算输出层的输入
output_input = np.dot(self.weight_ho, hidden_output) + self.bias_o
# 计算输出层的输出
output_output = sigmoid(output_input)
return output_output
# 反向传播
def backward(self, x, y, lr):
# 前向传播,计算各层的输入输出
hidden_input = np.dot(self.weight_ih, x) + self.bias_h
hidden_output = sigmoid(hidden_input)
output_input = np.dot(self.weight_ho, hidden_output) + self.bias_o
output_output = sigmoid(output_input)
# 计算输出层的误差
output_error = y - output_output
# 计算输出层的梯度
output_gradient = output_output * (1 - output_output) * output_error
# 计算隐藏层的误差
hidden_error = np.dot(self.weight_ho.T, output_gradient)
# 计算隐藏层的梯度
hidden_gradient = hidden_output * (1 - hidden_output) * hidden_error
# 更新权重矩阵和偏置向量
self.weight_ho += lr * np.dot(output_gradient, hidden_output.T)
self.bias_o += lr * output_gradient
self.weight_ih += lr * np.dot(hidden_gradient, x.T)
self.bias_h += lr * hidden_gradient
# 测试
if __name__ == '__main__':
# 生成训练数据
X = np.array([[1, 0], [0, 1], [1, 1], [0, 0]])
y = np.array([[1], [1], [0], [0]])
# 创建BP神经网络实例
bpnn = BPNN(2, 4, 1)
# 训练BP神经网络
for i in range(10000):
for j in range(len(X)):
bpnn.backward(X[j].reshape(2, 1), y[j], 0.1)
# 测试BP神经网络
for k in range(len(X)):
print(bpnn.forward(X[k].reshape(2, 1)))
```
代码说明:
1. 导入必要的库:numpy
2. 定义sigmoid函数,用于激活神经元
3. 定义BP神经网络类,包含初始化函数、前向传播函数和反向传播函数
4. 初始化函数中,输入层维度、隐藏层维度、输出层维度、权重矩阵和偏置向量均进行了初始化
5. 前向传播函数中,先计算隐藏层的输入和输出,再计算输出层的输入和输出,并返回输出层的输出
6. 反向传播函数中,先进行前向传播,计算各层的输入和输出,然后根据输出层的误差和隐藏层的误差,计算输出层和隐藏层的梯度,并更新权重矩阵和偏置向量
7. 在测试部分中,先生成训练数据,然后创建BP神经网络实例,进行训练,最后进行测试,并输出测试结果
这个程序实现了一个简单的BP神经网络,并使用训练数据进行了训练,最后进行了测试。
阅读全文