matlab代码使用ReLU激活函数的误差反向传播代码

下面是使用ReLU激活函数的误差反向传播代码示例：

function [dW1, db1, dW2, db2] = backward_propagation(X, Y, cache)
% 计算反向传播的梯度
% 参数：
% X - 输入数据集，维度为（输入大小，样本数）
% Y - 标签，维度为（输出大小，样本数）
% cache - 来自forward_propagation（）的cache输出
%
% 返回值：
% dW1 - 权重矩阵的梯度，维度为（隐藏大小，输入大小）
% db1 - 偏差向量的梯度，维度为（隐藏大小，1）
% dW2 - 权重矩阵的梯度，维度为（输出大小，隐藏大小）
% db2 - 偏差向量的梯度，维度为（输出大小，1）

% 从缓存中获取变量
Z1 = cache{1};
A1 = cache{2};
Z2 = cache{3};
A2 = cache{4};

m = size(X, 2);

% 计算输出层的误差
dZ2 = A2 - Y;
dW2 = 1 / m * dZ2 * A1';
db2 = 1 / m * sum(dZ2, 2);
dZ1 = (Z1 > 0) .* (dW2' * dZ2);
dW1 = 1 / m * dZ1 * X';
db1 = 1 / m * sum(dZ1, 2);

end

其中，ReLU激活函数的反向传播公式为：

$$dZ^{[l]}=dA^{[l]} \times g'(Z^{[l]})$$

其中，$g'(Z^{[l]})$ 表示ReLU激活函数的导数，即：

$$g'(Z^{[l]})=\begin{cases}1 & \text{if } Z^{[l]}>0\\0 & \text{if } Z^{[l]}\leq0\end{cases}$$

因此，在代码中，我们可以使用 `(Z1 > 0)` 来计算 $g'(Z^{[l]})$。