pytorch训练时同时加载3个不同batch_size的dataloader

使用 PyTorch 来同时加载三个不同 `batch_size` 的 `DataLoader`，你可以使用 `zip_longest` 函数来迭代不同的 `DataLoader`，并使用一个默认值来填充不足的数据。具体地，你可以定义一个 `collate_fn` 函数，该函数使用 `zip_longest` 函数来迭代不同的 `DataLoader`，并使用 `None` 值来填充不足的数据。然后，你可以在循环中移除 `None` 值，并将数据转换为 PyTorch 张量。

以下是一个示例代码：

from itertools import zip_longest
import torch
from torch.utils.data import DataLoader

# 定义三个 DataLoader
dataloader1 = DataLoader(dataset1, batch_size=batch_size1, shuffle=True)
dataloader2 = DataLoader(dataset2, batch_size=batch_size2, shuffle=True)
dataloader3 = DataLoader(dataset3, batch_size=batch_size3, shuffle=True)

# 定义 collate_fn 函数
def collate_fn(batch):
    # 使用 zip_longest 迭代不同的 DataLoader
    zipped = zip_longest(*batch, fillvalue=None)
    # 移除 None 值，并将数据转换为 PyTorch 张量
    inputs = tuple(torch.stack([torch.Tensor(item) for item in items if item is not None]) 
                   for items in zipped)
    return inputs

# 创建合并后的 DataLoader
dataloader = DataLoader(
    dataset=None,
    batch_size=batch_size1 + batch_size2 + batch_size3,
    shuffle=True,
    collate_fn=collate_fn,
    pin_memory=True
)

# 在训练循环中使用 dataloader
for batch in dataloader:
    # 分别获取三个不同 batch_size 的数据
    inputs1 = batch[0][:batch_size1]
    inputs2 = batch[1][batch_size1:batch_size1+batch_size2]
    inputs3 = batch[2][batch_size1+batch_size2:]
    ...

在上面的代码中，`collate_fn` 函数接收一个由三个 `DataLoader` 的样本组成的列表，并使用 `zip_longest` 函数来迭代不同的 `DataLoader`，并使用 `None` 值来填充不足的数据。然后，它将数据转换为 PyTorch 张量，并返回一个元组，其中每个元素都是一个张量，表示来自不同 `DataLoader` 的数据。在训练循环中，你可以使用 PyTorch 的切片操作来分别获取三个不同 `batch_size` 的数据。