用MathType, 书写卷积神经网络用到的所有公式, 并展开公式详细解释
时间: 2024-05-22 20:16:27 浏览: 114
1. 卷积操作的定义:$$y_{i,j}=\sum_{k=-\infty}^\infty\sum_{l=-\infty}^\infty x_{k,l}h_{i-k,j-l}$$
其中,$x$为输入图像,$h$为卷积核,$y$为输出特征图像。卷积核滑动窗口在输入图像上进行卷积操作,每个位置的输出为滑动窗口与卷积核的点积。
2. 卷积层的输出:$$\textbf{y} = \textbf{W}*\textbf{x}+\textbf{b}$$
其中,$\textbf{x}$为输入,$\textbf{W}$为卷积核,$\textbf{b}$为偏置项。输出为卷积核与输入的卷积操作结果再加上偏置项。
3. 池化操作的定义:$$y_{i,j}=\max_{k=0}^{K-1}\max_{l=0}^{L-1}x_{iK+k,jL+l}$$
其中,$x$为输入特征图像,$y$为输出特征图像,$K$和$L$为池化核的大小。池化操作将输入特征图像按照池化核的大小进行划分,对于每个划分区域取最大值作为输出。
4. 全连接层的输出:$$\textbf{y} = \textbf{W}\textbf{x}+\textbf{b}$$
其中,$\textbf{x}$为输入,$\textbf{W}$为权重参数,$\textbf{b}$为偏置项。输出为输入与权重矩阵相乘再加上偏置项。
5. 损失函数的定义:$$L(y,\hat{y})=-\sum_{c=1}^Cy_c\log\hat{y_c}$$
其中,$y$为真实标签,$\hat{y}$为预测标签,$C$为类别数。损失函数衡量了预测结果与真实结果的差距,通常使用交叉熵作为损失函数。
6. 反向传播算法:$$\frac{\partial L}{\partial w_{ij}}=\frac{\partial L}{\partial y}\frac{\partial y}{\partial w_{ij}}$$
其中,$L$为损失函数,$y$为输出结果,$w_{ij}$为权重矩阵中的一个元素。反向传播算法通过求取损失函数对权重矩阵的偏导数,来更新权重矩阵使得损失函数最小化。
阅读全文