embedding pytorch

在PyTorch中进行嵌入（embedding）是将离散的输入对象（例如词或类别）转换为连续的向量表示。嵌入通常用于将高维的离散数据映射到低维的连续空间，以便更好地处理和学习。

PyTorch提供了一个`nn.Embedding`模块，用于实现嵌入。要使用`nn.Embedding`，首先需要指定嵌入的维度和输入的大小。维度表示每个离散对象被映射到的连续向量的长度，输入大小表示离散对象的总数量。

以下是一个使用`nn.Embedding`的示例：

import torch
import torch.nn as nn

# 定义嵌入层
embedding_dim = 100
vocab_size = 10000
embedding = nn.Embedding(vocab_size, embedding_dim)

# 输入数据
input_data = torch.LongTensor([[1, 2, 3], [4, 5, 6]])

# 嵌入输入数据
embedded_data = embedding(input_data)

print(embedded_data.size())  # 输出: torch.Size([2, 3, 100])

在上面的示例中，我们创建了一个维度为100的嵌入层，输入大小为10000。然后，我们将一个大小为(2, 3)的输入张量传递给嵌入层，其中每个元素是一个离散对象的索引。嵌入层将输入张量转换为大小为(2, 3, 100)的嵌入数据张量，其中2表示批次大小，3表示序列长度，100表示每个离散对象的连续向量表示的长度。