深度解析卷积神经网络基础：二维互相关与卷积操作详解

188 浏览量更新于2024-08-30 1 收藏 129KB PDF 举报

卷积神经网络基础（CNN）是深度学习领域的重要组成部分，专注于处理具有网格结构的数据，如图像和视频。本文主要介绍了以下几个核心概念： 1. **二维互相关运算**：卷积层虽然名为卷积，但实际操作中更常使用的是互相关运算。在二维卷积中，一个输入数组（如3x3或(3,3)尺寸）与一个二维核（kernel）数组（如2x2大小）通过逐元素相乘并求和的方式进行运算，生成一个输出特征图，如图5.1所示。 2. **卷积层与核数组**：卷积核或过滤器是核心组件，其窗口（2x2）在输入数组上滑动，每个位置的输出值是对应窗口内输入值与核数组元素的乘积之和。例如，在图5.1中，输出数组的第一个元素计算过程为0×0+1×1+3×2+4×3=19。 3. **特征图与感受野**：输出特征图是卷积操作的结果，它展示了输入数据的不同方面被卷积核检测到的程度。感受野是指卷积核在输入上的作用范围，随着窗口在输入上移动而变化。 4. **填充和步幅**：为了控制特征图的尺寸和输出特征的细节程度，可以使用填充（padding）来增加输入的边界，而步幅（stride）则决定窗口移动的间距，这两者共同影响了卷积的过程。 5. **多输入通道和多输出通道**：在实际应用中，卷积层可能处理多个输入通道（例如RGB图像的三个通道），并且可以输出多个通道的特征图，这些通道可以用于不同的任务。 6. **1×1卷积层**：这是一种特殊的卷积，窗口大小为1x1，主要用于减小通道数量、提取特征组合或作为全连接层的替代。 7. **卷积层与全连接层的比较**：卷积层在保持局部连接性和参数共享特性的同时，减少了模型的参数数量，而全连接层则连接了所有输入单元，适合处理一维数据。 8. **池化层**：为了减少计算量、缓解过拟合和提高模型的不变性，池化层会将特征图划分为固定大小的区域，并对每个区域进行降采样，常见的有二维池化层。 9. **PyTorch实现**：文章提到了如何使用Python库PyTorch来实现卷积层和池化层的操作，这对于实际编程和理解这些概念至关重要。通过深入理解这些基础知识，开发者能够构建和优化卷积神经网络，应用于图像分类、物体检测、语义分割等各种计算机视觉任务。

卷积神经网络基础（卷积神经网络基础（CNN)

文章目录文章目录卷积神经网络基础二维互相关运算二维卷积层互相关运算与卷积运算特征图和感受野填充和步幅填充步幅多输入通道

和多输出通道多输入通道多输出通道1×1卷积层卷积层与全连接层的比较卷积层的pytorch实现池化层二维池化层池化层的

pytorch实现

卷积神经网络基础卷积神经网络基础

二维互相关运算二维互相关运算

虽然卷积层得名于卷积（convolution）运算，但我们通常在卷积层中使用更加直观的互相关（cross-correlation）运算。在二

维卷积层中，一个二维输入数组和一个二维核（kernel）数组通过互相关运算输出一个二维数组。

我们用一个具体例子来解释二维互相关运算的含义。如图5.1所示，输入是一个高和宽均为3的二维数组。我们将该数组的形状

记为3×33 imes 33×3或（3，3）。核数组的高和宽分别为2。该数组在卷积计算中又称卷积核或过滤器（filter）。卷积核窗

口（又称卷积窗口）的形状取决于卷积核的高和宽，即2×22 imes 22×2。图5.1中的阴影部分为第一个输出元素及其计算所

使用的输入和核数组元素：0×0+1×1+3×2+4×3=190 imes0+1 imes1+3 imes2+4 imes3=190×0+1×1+3×2+4×3=19。

图5.1 二维互相关运算

在二维互相关运算中，卷积窗口从输入数组的最左上方开始，按从左往右、从上往下的顺序，依次在输入数组上滑动。当卷积

窗口滑动到某一位置时，窗口中的输入子数组与核数组按元素相乘并求和，得到输出数组中相应位置的元素。图5.1中的输出

数组高和宽分别为2，其中的4个元素由二维互相关运算得出：

0×0+1×1+3×2+4×3=19,1×0+2×1+4×2+5×3=25,3×0+4×1+6×2+7×3=37,4×0+5×1+7×2+8×3=43.

0 imes0+1 imes1+3 imes2+4 imes3=19,\

1 imes0+2 imes1+4 imes2+5 imes3=25,\

3 imes0+4 imes1+6 imes2+7 imes3=37,\

4 imes0+5 imes1+7 imes2+8 imes3=43.\

0×0+1×1+3×2+4×3=19,1×0+2×1+4×2+5×3=25,3×0+4×1+6×2+7×3=37,4×0+5×1+7×2+8×3=43.

# 二维互相关运算核心示例

import torch

import torch.nn as nn

def corr2d(X, K):

H, W = X.shape

h, w = K.shape

Y = torch.zeros(H - h + 1, W - w + 1)

for i in range(Y.shape[0]):

for j in range(Y.shape[1]):

Y[i, j] = (X[i: i + h, j: j + w] * K).sum()

return Y

二维卷积层二维卷积层

二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。

# 二维卷积层的pytorch示例

class Conv2D(nn.Module):

def __init__(self, kernel_size):

super(Conv2D, self).__init__()

self.weight = nn.Parameter(torch.randn(kernel_size))

self.bias = nn.Parameter(torch.randn(1))

def forward(self, x):

return corr2d(x, self.weight) + self.bias

互相关运算与卷积运算互相关运算与卷积运算

实际上，卷积运算与互相关运算类似。为了得到卷积运算的输出，我们只需将核数组左右翻转并上下翻转，再与输入数组做互为了得到卷积运算的输出，我们只需将核数组左右翻转并上下翻转，再与输入数组做互

相关运算相关运算。可见，卷积运算和互相关运算虽然类似，但如果它们使用相同的核数组，对于同一个输入，输出往往并不相同。

下载后可阅读完整内容，剩余4页未读，立即下载

weixin_38604653

粉丝: 3
资源: 946

深度解析卷积神经网络基础：二维互相关与卷积操作详解

深度解析：卷积神经网络（CNN）的工作原理

卷积神经网络（CNN）原理与Python实现解析

深度学习基础：探索卷积神经网络(CNN)的原理与应用

计算机视觉+深度学习+卷积神经网络(CNN)+图像识别与分析 卷积神经网络（CNN）是深度学习在计算机视觉领域的核心技术，主要

4.3 卷积神经网络（CNN）

卷积神经网络（CNN）简史

卷积神经网络（CNN）概念理解

从零开始搭建神经网络-卷积神经网络(CNN)

基础卷积神经网络(CNN)原理与实践

TensorFlow中的卷积神经网络（CNN）基础

最新资源

计算机视觉+深度学习+卷积神经网络(CNN)+图像识别与分析卷积神经网络（CNN）是深度学习在计算机视觉领域的核心技术，主要