bp神经网络多元回归预测三层，要有激活函数定义损失函数和优化器代码用numpy库和pandas库复杂一点relu函数

好的，下面是一个使用numpy和pandas库实现的三层bp神经网络多元回归预测的示例代码，其中包括ReLU激活函数、均方误差损失函数和梯度下降优化器。

import numpy as np
import pandas as pd

# 定义ReLU激活函数
def relu(x):
    return np.maximum(0, x)

# 定义均方误差损失函数
def mse_loss(y_true, y_pred):
    return np.mean(np.square(y_true - y_pred))

# 定义梯度下降优化器
def gradient_descent(X, y, learning_rate=0.01, epochs=1000):
    # 初始化权重和偏置
    n_input = X.shape[1]
    n_hidden = 4
    n_output = y.shape[1]
    W1 = np.random.randn(n_input, n_hidden)
    b1 = np.zeros((1, n_hidden))
    W2 = np.random.randn(n_hidden, n_output)
    b2 = np.zeros((1, n_output))

    # 训练模型
    for i in range(epochs):
        # 前向传播
        h = relu(np.dot(X, W1) + b1)
        y_pred = np.dot(h, W2) + b2

        # 计算损失函数
        loss = mse_loss(y, y_pred)

        # 反向传播
        delta2 = (y_pred - y) / y.shape[0]
        delta1 = np.dot(delta2, W2.T) * (h > 0)
        dW2 = np.dot(h.T, delta2)
        db2 = np.sum(delta2, axis=0, keepdims=True)
        dW1 = np.dot(X.T, delta1)
        db1 = np.sum(delta1, axis=0, keepdims=True)

        # 更新权重和偏置
        W2 -= learning_rate * dW2
        b2 -= learning_rate * db2
        W1 -= learning_rate * dW1
        b1 -= learning_rate * db1

        # 打印损失函数
        if i % 100 == 0:
            print("Epoch %d - Loss: %.4f" % (i, loss))

    # 返回训练好的模型参数
    return W1, b1, W2, b2

# 生成样本数据
X = np.random.randn(100, 5)
y = np.dot(X, np.array([[1], [2], [3], [4], [5]])) + np.random.randn(100, 1)

# 将数据分为训练集和测试集
X_train, X_test = X[:80], X[80:]
y_train, y_test = y[:80], y[80:]

# 使用训练集训练模型
W1, b1, W2, b2 = gradient_descent(X_train, y_train)

# 在测试集上测试模型性能
h = relu(np.dot(X_test, W1) + b1)
y_pred = np.dot(h, W2) + b2
test_loss = mse_loss(y_test, y_pred)
print("Test Loss: %.4f" % test_loss)

在这个示例代码中，我们首先定义了ReLU激活函数、均方误差损失函数和梯度下降优化器。然后，我们使用numpy生成了一个包含100个样本和5个特征的随机数据集，并将其分为训练集和测试集。接下来，我们使用训练集训练了一个三层的bp神经网络模型，并在测试集上测试了其性能。最后，我们打印了测试集上的均方误差损失值。

注意，这只是一个示例代码，实际应用中可能需要根据具体情况进行修改和调整。