torch.nn.embedding词嵌入

torch.nn.embedding是PyTorch中的一个模块，它用于将离散的词语或符号映射到连续向量空间中的实数向量（即词嵌入）。词嵌入是自然语言处理（NLP）中常用的一种表示方式，它将单词表示为实数向量，能够捕捉单词之间的语义关系。

通过使用torch.nn.embedding模块，我们可以创建一个词嵌入层，将离散的词语索引作为输入，然后返回对应的词嵌入向量。这些向量可以用于训练神经网络模型，如文本分类、命名实体识别等任务。

以下是使用torch.nn.embedding进行词嵌入的一个简单示例：

import torch
import torch.nn as nn

# 假设有1000个单词，每个单词用一个100维的向量表示
embedding = nn.Embedding(1000, 100)

# 输入的句子包含5个单词，每个单词用一个整数表示
input = torch.LongTensor([1, 4, 2, 3, 0])  # 每个整数对应一个单词

# 将输入的句子转换为词嵌入向量
output = embedding(input)

print(output.shape)  # 输出：torch.Size([5, 100])

在上面的示例中，我创建了一个词嵌入层`embedding`，它有1000个单词和每个单词100维的向量表示。然后，我定义了一个输入句子`input`，其中包含了5个单词的索引。将这个输入传递给词嵌入层后，得到了一个输出`output`，它的形状是`(5, 100)`，表示5个单词分别对应的词嵌入向量。

这只是一个简单的示例，实际上在使用词嵌入时，通常会在模型中的其他层和操作中进一步使用这些词嵌入向量来完成更复杂的任务。