Pytorch 全连接神经网络

PyTorch是一个广泛使用的深度学习框架，全连接（Fully Connected，FC）神经网络是其中的基本构建块之一。在PyTorch中，全连接层允许每个输入单元与下一层的所有输出单元相连，这使得网络能够处理非结构化的输入数据，如图像、文本或数值特征。

在PyTorch中创建全连接层的基本步骤如下：

1. 导入必要的库和模块：

import torch
import torch.nn as nn

2. 在定义神经网络类（如`nn.Module`子类）时，添加全连接层：

class MyNetwork(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(MyNetwork, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)  # 第一个全连接层
        self.fc2 = nn.Linear(hidden_size, output_size)  # 输出层

    def forward(self, x):
        x = torch.relu(self.fc1(x))  # 使用激活函数（如ReLU）
        x = self.fc2(x)
        return x

这里，`nn.Linear`函数接受输入大小（`input_size`）和隐藏层大小（`hidden_size`），创建一个线性变换，即全连接层。

3. 创建网络实例并训练：

net = MyNetwork(input_size=784, hidden_size=256, output_size=10)  # 假设输入图片大小为28x28，10分类任务
optimizer = torch.optim.SGD(net.parameters(), lr=0.001)  # 设置优化器
criterion = nn.CrossEntropyLoss()  # 用于计算损失

4. 在训练循环中调用`forward`方法，并进行前向传播和反向传播：

for inputs, labels in dataloader:  # dataloader是数据加载器
    outputs = net(inputs)
    loss = criterion(outputs, labels)
    optimizer.zero_grad()  # 清零梯度
    loss.backward()
    optimizer.step()  # 更新权重