torch.permute

`torch.permute`是PyTorch中的一个函数，用于对张量进行维度重排。它可以用来交换张量的维度顺序或者将张量的维度转置。

具体来说，`torch.permute(*dims)`函数会返回一个新的张量，其中维度的顺序与输入张量相同，但是维度的顺序被重新排列成参数`dims`所指定的顺序。参数`dims`应该是一个整数元组，用于指定新的维度顺序。例如，如果输入张量的维度顺序是`(batch_size, sequence_length, embedding_size)`，并且你想将其转换成`(batch_size, embedding_size, sequence_length)`的顺序，那么你可以使用以下代码：

import torch

# 创建一个大小为(2, 3, 4)的随机张量
x = torch.randn(2, 3, 4)

# 将维度顺序从(batch_size, sequence_length, embedding_size)变为(batch_size, embedding_size, sequence_length)
x_permuted = x.permute(0, 2, 1)

在上面的代码中，`x`是一个大小为`(2, 3, 4)`的随机张量。我们使用`x.permute(0, 2, 1)`将其转换成了大小为`(2, 4, 3)`的张量`x_permuted`，其中维度的顺序变成了`(batch_size, embedding_size, sequence_length)`。

需要注意的是，`torch.permute`返回的是一个新的张量，原始张量并没有被修改。因此，如果你想要将张量的维度重排并将结果保存到原始张量中，你需要将结果赋值给原始张量，如下所示：

import torch

# 创建一个大小为(2, 3, 4)的随机张量
x = torch.randn(2, 3, 4)

# 将维度顺序从(batch_size, sequence_length, embedding_size)变为(batch_size, embedding_size, sequence_length)
x = x.permute(0, 2, 1)