net.apply()

`net.apply()` 是 PyTorch 中用于将函数应用于模型所有参数的方法。它可以被用于初始化模型权重或改变模型的运算方式，例如将模型从训练模式切换到评估模式。这个方法接受一个函数作为参数，这个函数会被应用于模型的每一个参数。例如，下面的代码将使用正交初始化方法来初始化模型的所有权重：

import torch.nn as nn
from torch.nn.init import orthogonal_

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.fc1 = nn.Linear(10, 5)
        self.fc2 = nn.Linear(5, 2)

        # 使用 orthogonal_ 函数来初始化所有权重
        self.apply(self.init_weights)

    def init_weights(self, m):
        if type(m) == nn.Linear:
            orthogonal_(m.weight)

在这个例子中，`MyModel` 包含两个全连接层，使用 `self.apply(self.init_weights)` 来将 `init_weights` 函数应用于模型的所有参数，`init_weights` 函数使用 `orthogonal_` 函数来初始化所有线性层的权重。