nn.ModuleList和nn.Sequential

在PyTorch中，`nn.ModuleList` 和 `nn.Sequential` 都是神经网络模块（Modules）的容器，但它们的设计目的和使用场景有所不同。

`nn.ModuleList`是一个动态大小的模块列表，它可以存储一系列独立的模块，并通过索引来访问和遍历这些模块。每当添加或删除模块时，这个列表都会自动调整其内部结构。你可以在训练过程中动态地向 `ModuleList` 添加或移除层，这在构建可变长度的模型结构时特别有用。

例如：

module_list = nn.ModuleList([nn.Linear(10, 5), nn.ReLU()])

在这个例子中，`module_list` 包含了两个线性和一个ReLU激活函数。

相比之下，`nn.Sequential`是线性的顺序模块列表，它的模块按照添加的顺序执行。每个模块的输出直接成为下一个模块的输入。它适合构建固定的、有明确执行顺序的网络架构，如前馈神经网络。

例如：

sequential = nn.Sequential(nn.Linear(10, 5), nn.ReLU())

这里，`sequential` 就会先执行线性变换，再接上ReLU激活。