大模型中的embedding方法有哪些
时间: 2023-11-12 17:05:08 浏览: 190
大模型中的embedding方法有很多种。其中一种常见的方法是基于负采样的Skip-gram模型,该模型通过学习上下文中的词语来生成词向量。这个模型在很多应用中都有广泛的应用,包括Item2Vec模型和Airbnb论文中提出的模型。\[1\]另外,双塔模型也是一种常见的embedding方法,该模型通过多层神经网络结构将物品的原始特征转化为稠密的物品Embedding向量表达。这种方法在广告场景中被广泛应用,被称为物品塔。\[2\]除此之外,还有其他一些方法可以用于生成物品向量,比如百度和Facebook等公司成功应用的双塔模型。\[3\]总的来说,大模型中的embedding方法有很多种,每种方法都有其独特的特点和适用场景。
#### 引用[.reference_title]
- *1* *2* *3* [深度学习推荐系统中各类流行的Embedding方法(上)](https://blog.csdn.net/abcdefg90876/article/details/106464384)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]
阅读全文