（3）自己设计一个较为复杂的函数，利用pytorch 自动求导。并在纸上写出反向传播求导的详细步骤

在PyTorch中，自动求导功能使得我们无需手动计算梯度，这对于深度学习模型训练非常有用。下面我会为你设计一个简单的复杂函数，如一个有多个参数、嵌套结构的神经网络层，并展示如何利用PyTorch的`autograd`模块进行反向传播。

假设我们有一个包含卷积层（Conv2d）、池化层（MaxPool2d）、全连接层（Linear）以及非线性激活函数（ReLU）的神经网络层。这里以LeNet为例：

import torch
from torch import nn

class MyNetwork(nn.Module):
    def __init__(self):
        super(MyNetwork, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, kernel_size=5)
        self.pool = nn.MaxPool2d(kernel_size=2, stride=2)
        self.fc1 = nn.Linear(6 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        x = F.relu(self.conv1(x))
        x = self.pool(F.relu(self.fc1(x.view(-1, 6*5*5))))
        x = F.relu(self.fc2(x))
        return self.fc3(x)

# 初始化网络
net = MyNetwork()
input_tensor = torch.randn(1, 3, 32, 32)  # 假设输入是一个3通道32x32的图像

# 开启梯度追踪
with torch.no_grad():
    out = net(input_tensor)
    loss = F.cross_entropy(out, torch.tensor([0]))  # 假设标签是0

# 计算梯度
loss.backward()

# 反向传播求导的详细步骤：
1. `loss.backward()`会从输出层开始，计算每个参数对损失函数的梯度。
2. 对于全连接层，梯度会逐层向前传播：先计算出fc3对loss的梯度，然后通过链式法则更新fc2、fc1的权重，同时更新它们的偏置项。
3. 池化层不会改变权重，但会影响前一层的特征映射，所以需要将conv1的输出特征图乘以对应位置的池化操作的梯度。
4. 卷积层同样利用链式法则更新权重，考虑到滤波器的作用，每个滤波器都会影响到其覆盖范围内的所有像素，因此需要遍历整个滤波器。
5. 最终，每个参数（包括权重和偏置）的梯度存储在`.grad`属性中，可以用于优化算法调整参数值。