torch.embedding参数详解

torch.embedding是PyTorch中的一个函数，用于将输入的整数序列转换为对应的词嵌入向量，其主要参数包括：

- num_embeddings：表示词嵌入矩阵的行数，也就是词汇表的大小。
- embedding_dim：表示词嵌入向量的维度，即每个单词被编码为一个多少维的向量。
- padding_idx：表示输入序列中的padding符号对应的索引，如果设置为None，则不进行padding操作。
- max_norm：表示词嵌入向量的最大范数，如果超过了该范数，则进行裁剪。
- norm_type：表示词嵌入向量的范数类型，可以为1，2，或者无穷大。
- scale_grad_by_freq：表示是否根据单词在输入序列中的频率来缩放梯度，如果为True，则频率较高的单词将被缩小梯度，以避免它们对模型的影响过大。
- sparse：表示是否使用稀疏矩阵来存储词嵌入矩阵，如果为True，则使用稀疏矩阵来节省内存。

其中，num_embeddings和embedding_dim是必选参数，其他参数根据实际需求进行选择。