input1 = np.dot(inputset, weight1).astype(np.float64)

这是一个矩阵乘法的运算，其中 inputset 是输入矩阵，weight1 是权重矩阵，np.dot 是 numpy 库中的矩阵乘法函数，astype(np.float64) 是将结果转换为浮点数类型。

相关问题

def test_process(dataset, labelset, weight1, weight2, value1, value2): pre_data = [] for i in range(len(dataset)): inputset = np.mat(dataset[i]).astype(np.float64) outputset = np.mat(labelset[i]).astype(np.float64) output2 = sigmoid(np.dot(inputset, weight1) - value1) output3 = np.dot(output2, weight2) - value2 output3 = output3.tolist() pre_data.append(output3) pre_data = list(_flatten(pre_data)) return pre_data

这是一个 Python 函数，它的作用是将输入数据集 dataset 和标签集 labelset 经过一定的处理后，返回一个预测结果 pre_data。其中 weight1、weight2、value1、value2 是函数的参数，它们分别代表两个权重矩阵和两个偏置值。函数的具体实现过程是：对于每个输入数据，先将其转换为浮点型矩阵，然后通过权重矩阵 weight1 进行一次线性变换，并经过 sigmoid 函数处理得到 output2；接着将 output2 通过权重矩阵 weight2 进行第二次线性变换，并减去偏置值 value2 得到 output3；最后将 output3 转换为列表形式，并将其添加到 pre_data 中。最后将 pre_data 扁平化后返回。

使用python创建一个使用归一化、Xavier初始化、正则化方法和MSGD的BP网络，该网络有8个输入1个输出1层隐藏层，要求分为两个模块（py文件），在确认输入、输出的训练集之后，模型不会出现shape类报错，且一个是BP网络，另一个是主函数，尝试在main模块中实现绘制R2图来说明模型的拟合度，并且输出MAE、MSE、预测值和真实值之间的相对误差平均百分比，绘制各输入输出的拟合折线图，且R2图和折线图中使用的数据均为未变换数据，在每句代码后添加注释；练集数据存于xlsx表格前3000行中，之后的都是测试集，且均为float类型。并且能够输出各输入的权重。

为了实现你的需求，我们需要创建两个模块：一个是BP网络的模块，另一个是主函数模块。下面是BP网络模块的代码（命名为bp_network.py）：

import numpy as np
import pandas as pd

class BPNetwork:
    def __init__(self, input_dim, hidden_dim, output_dim):
        """
        初始化BP网络
        :param input_dim: 输入层维数
        :param hidden_dim: 隐藏层维数
        :param output_dim: 输出层维数
        """
        # 初始化权重和偏置
        self.w1 = np.random.randn(input_dim, hidden_dim) * np.sqrt(2 / (input_dim + hidden_dim))  # Xavier初始化
        self.b1 = np.zeros(hidden_dim)
        self.w2 = np.random.randn(hidden_dim, output_dim) * np.sqrt(2 / (hidden_dim + output_dim))  # Xavier初始化
        self.b2 = np.zeros(output_dim)
        
    def sigmoid(self, x):
        """
        激活函数：sigmoid
        """
        return 1 / (1 + np.exp(-x))
    
    def sigmoid_deriv(self, x):
        """
        激活函数sigmoid的导数
        """
        return self.sigmoid(x) * (1 - self.sigmoid(x))
    
    def l2_regularization(self, lambd, w1, w2):
        """
        L2正则化
        """
        return (lambd/2) * (np.sum(w1**2) + np.sum(w2**2))
    
    def forward(self, X):
        """
        前向传播
        :param X: 输入数据
        """
        self.z1 = np.dot(X, self.w1) + self.b1  # 第一层线性加权和
        self.a1 = self.sigmoid(self.z1)  # 第一层激活输出
        self.z2 = np.dot(self.a1, self.w2) + self.b2  # 第二层线性加权和
        self.a2 = self.sigmoid(self.z2)  # 第二层激活输出
        return self.a2
    
    def backward(self, X, y, learning_rate, lambd):
        """
        反向传播
        :param X: 输入数据
        :param y: 真实输出数据
        :param learning_rate: 学习率
        :param lambd: 正则化参数
        """
        # 计算输出层误差
        delta2 = (self.a2 - y) * self.sigmoid_deriv(self.z2)
        # 计算输出层权重和偏置的梯度
        dw2 = np.dot(self.a1.T, delta2) + lambd * self.w2
        db2 = np.sum(delta2, axis=0)
        # 计算隐藏层误差
        delta1 = np.dot(delta2, self.w2.T) * self.sigmoid_deriv(self.z1)
        # 计算隐藏层权重和偏置的梯度
        dw1 = np.dot(X.T, delta1) + lambd * self.w1
        db1 = np.sum(delta1, axis=0)
        # 更新权重和偏置
        self.w1 -= learning_rate * dw1
        self.b1 -= learning_rate * db1
        self.w2 -= learning_rate * dw2
        self.b2 -= learning_rate * db2
        
    def train(self, X_train, y_train, X_val, y_val, epochs, learning_rate, lambd):
        """
        训练BP网络
        :param X_train: 训练数据
        :param y_train: 训练标签
        :param X_val: 验证数据
        :param y_val: 验证标签
        :param epochs: 迭代次数
        :param learning_rate: 学习率
        :param lambd: 正则化参数
        """
        train_losses = []
        val_losses = []
        
        for i in range(epochs):
            # 前向传播
            y_pred_train = self.forward(X_train)
            y_pred_val = self.forward(X_val)
            # 计算损失函数值
            train_loss = np.mean((y_pred_train - y_train) ** 2) + self.l2_regularization(lambd, self.w1, self.w2)
            val_loss = np.mean((y_pred_val - y_val) ** 2) + self.l2_regularization(lambd, self.w1, self.w2)
            train_losses.append(train_loss)
            val_losses.append(val_loss)
            # 反向传播
            self.backward(X_train, y_train, learning_rate, lambd)
            
            if i % 100 == 0:
                print(f"Epoch {i}, Train Loss: {train_loss:.4f}, Validation Loss: {val_loss:.4f}")
                
        return train_losses, val_losses
    
    def predict(self, X_test):
        """
        预测
        :param X_test: 测试数据
        """
        y_pred = self.forward(X_test)
        return y_pred
    
    def get_weights(self):
        """
        获取权重
        """
        return self.w1, self.w2

下面是主函数模块的代码（命名为main.py）：

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.preprocessing import MinMaxScaler

from bp_network import BPNetwork  # 导入BP网络模块

# 读取数据
data = pd.read_excel("data.xlsx", nrows=3000)  # 只读取前3000行作为训练集

# 数据预处理
scaler = MinMaxScaler()  # 创建归一化器
X_train = data.iloc[:, :8].values.astype(float)  # 取前8列作为输入数据，转换为float类型
y_train = data.iloc[:, -1].values.reshape(-1, 1).astype(float)  # 取最后一列作为输出数据，转换为float类型
X_train_norm = scaler.fit_transform(X_train)  # 对输入数据进行归一化处理
y_train_norm = scaler.fit_transform(y_train)  # 对输出数据进行归一化处理

# 创建BP网络模型
input_dim = 8  # 输入层维数
hidden_dim = 4  # 隐藏层维数
output_dim = 1  # 输出层维数
bpnet = BPNetwork(input_dim, hidden_dim, output_dim)

# 训练BP网络模型
epochs = 10000  # 迭代次数
learning_rate = 0.1  # 学习率
lambd = 0.01  # 正则化参数
train_losses, val_losses = bpnet.train(X_train_norm, y_train_norm, X_train_norm, y_train_norm, epochs, learning_rate, lambd)

# 绘制训练和验证损失函数曲线
plt.plot(train_losses, label="Train Loss")
plt.plot(val_losses, label="Validation Loss")
plt.legend()
plt.xlabel("Epochs")
plt.ylabel("Loss")
plt.show()

# 计算拟合度R2和相对误差平均百分比
y_pred_norm = bpnet.predict(X_train_norm)  # 预测归一化后的输出数据
y_pred = scaler.inverse_transform(y_pred_norm)  # 将预测结果反归一化
r2 = 1 - np.sum((y_train - y_pred) ** 2) / np.sum((y_train - np.mean(y_train)) ** 2)  # 计算拟合度R2
mae = np.mean(np.abs(y_train - y_pred))  # 计算MAE
mse = np.mean((y_train - y_pred) ** 2)  # 计算MSE
relative_error = np.mean(np.abs((y_train - y_pred) / y_train)) * 100  # 计算相对误差平均百分比
print(f"R2: {r2:.4f}")
print(f"MAE: {mae:.4f}")
print(f"MSE: {mse:.4f}")
print(f"Relative Error: {relative_error:.2f}%")

# 绘制各输入输出的拟合折线图
for i in range(input_dim):
    plt.scatter(X_train[:, i], y_train, label="True")
    plt.scatter(X_train[:, i], y_pred, label="Predicted")
    plt.legend()
    plt.xlabel(f"Input {i+1}")
    plt.ylabel("Output")
    plt.show()

# 输出各输入的权重
w1, w2 = bpnet.get_weights()
for i in range(input_dim):
    print(f"Input {i+1} Weight: {w1[i]}")

在运行主函数模块（main.py）之前，需要确保以下几点：

1. 在命令行执行 `pip install pandas matplotlib scikit-learn` 安装必要的包。
2. 将数据存储在名为 `data.xlsx` 的 Excel 文件中。注意，该文件只存储了前3000个样本作为训练集，之后的样本可用于测试集。

运行主函数模块时，将会输出训练过程中的损失函数曲线、拟合度R2、MAE、MSE、相对误差平均百分比等信息，并绘制各输入输出的拟合折线图。同时，还会输出各输入的权重。