计算batch_size个向量的余弦相似度

时间: 2023-12-01 15:03:45 浏览: 134
当计算批量(batch_size)个向量的余弦相似度时,可以使用以下步骤: 1. 导入所需的库: ```python import numpy as np from sklearn.metrics.pairwise import cosine_similarity ``` 2. 准备数据:假设有一个形状为 (batch_size, vector_dim) 的向量矩阵 `vectors`,其中 `batch_size` 是批量大小,`vector_dim` 是每个向量的维度。 3. 计算余弦相似度:使用 `cosine_similarity` 函数计算余弦相似度。这个函数可以接受两个矩阵作为输入,并返回它们之间的余弦相似度矩阵。因此,我们可以将 `vectors` 作为输入两次,得到一个形状为 (batch_size, batch_size) 的矩阵,其中每个元素表示对应两个向量的余弦相似度。 ```python # 计算余弦相似度 similarity_matrix = cosine_similarity(vectors, vectors) ``` 4. 获取对角线元素:由于每个向量与自身的余弦相似度为1,因此我们可以通过获取矩阵的对角线元素来获得每个向量与其他向量的余弦相似度。 ```python # 获取对角线元素 cosine_similarities = np.diagonal(similarity_matrix) ``` 现在,`cosine_similarities` 是一个包含 `batch_size` 个向量的余弦相似度的数组。 请注意,上述代码假设 `vectors` 是一个 numpy 数组。如果使用其他库或数据结构,请根据需要进行相应的修改。
阅读全文

相关推荐

import torch from transformers import BertTokenizer, BertModel # 加载Bert预训练模型和tokenizer model = BertModel.from_pretrained('bert-base-chinese') tokenizer = BertTokenizer.from_pretrained('bert-base-chinese') # 微博文本和种子词 text = '今天天气真好,心情非常愉快!' seeds = ['天气', '心情', '愉快'] # 将微博文本和种子词转换为Bert输入格式 inputs = tokenizer.encode_plus(text, add_special_tokens=True, return_tensors='pt') seed_inputs = tokenizer.encode_plus(seeds, add_special_tokens=True, return_tensors='pt', padding=True) # 使用Bert模型获取微博文本和种子词的词向量 with torch.no_grad(): text_embeddings = model(inputs['input_ids'], attention_mask=inputs['attention_mask'])[0] # [1, seq_len, hidden_size] seed_embeddings = model(seed_inputs['input_ids'], attention_mask=seed_inputs['attention_mask'])[0] # [batch_size, seq_len, hidden_size] # 计算种子词和微博文本中所有词语的余弦相似度 text_embeddings = text_embeddings.squeeze(0) # [seq_len, hidden_size] seed_embeddings = seed_embeddings.mean(dim=1) # [batch_size, hidden_size] -> [batch_size, 1, hidden_size] -> [batch_size, hidden_size] cosine_similarities = torch.matmul(text_embeddings, seed_embeddings.transpose(0, 1)) # [seq_len, batch_size] # 获取相似度最高的词语 similar_words = [] for i in range(len(seeds)): seed_similarities = cosine_similarities[:, i].tolist() max_sim_idx = seed_similarities.index(max(seed_similarities)) similar_word = tokenizer.convert_ids_to_tokens(inputs['input_ids'][0][max_sim_idx].item()) similar_words.append(similar_word) print(similar_words)

import torchfrom transformers import BertTokenizer, BertModel# 加载Bert预训练模型和tokenizermodel = BertModel.from_pretrained('bert-base-chinese')tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')# 微博文本和种子词text = '今天天气真好,心情非常愉快!'seeds = ['天气', '心情', '愉快']# 将微博文本和种子词转换为Bert输入格式inputs = tokenizer.encode_plus(text, add_special_tokens=True, return_tensors='pt')seed_inputs = tokenizer.encode_plus(seeds, add_special_tokens=True, return_tensors='pt', padding=True)# 使用Bert模型获取微博文本和种子词的词向量with torch.no_grad(): text_embeddings = model(inputs['input_ids'], attention_mask=inputs['attention_mask'])[0] # [1, seq_len, hidden_size] seed_embeddings = model(seed_inputs['input_ids'], attention_mask=seed_inputs['attention_mask'])[0] # [batch_size, seq_len, hidden_size]# 计算种子词和微博文本中所有词语的余弦相似度text_embeddings = text_embeddings.squeeze(0) # [seq_len, hidden_size]seed_embeddings = seed_embeddings.mean(dim=1) # [batch_size, seq_len, hidden_size] -> [batch_size, hidden_size]cosine_similarities = torch.matmul(text_embeddings, seed_embeddings.transpose(0, 1)) # [seq_len, batch_size]# 获取相似度最高的词语similar_words = []for i in range(len(seeds)): seed_similarities = cosine_similarities[i, :].tolist() max_sim_idx = seed_similarities.index(max(seed_similarities)) similar_word = tokenizer.convert_ids_to_tokens(inputs['input_ids'][0][max_sim_idx].item()) similar_words.append(similar_word)print(similar_words) 上述修改后的代码输出全是['[CLS]', '[CLS]', '[CLS]'],这不是我想要的结果啊,我想要的是微博文本的词语和种子词很相似的所有词语,而不是bert自动添加的特殊标记符,该怎么办

if __name__ == "__main__": args = parse_args() print("A list all args: \n======================") pprint(vars(args)) print() #设置 CPU 生成随机数的种子 ,方便下次复现实验结果。 torch.manual_seed(args.seed) np.random.seed(args.seed) #路径拼接文件路径,可以传入多个路径 PATH = os.path.join("resources", args.data) EMBEDDING_PATH = "resources/" static_feat = ["sex", "age", "pur_power"] dynamic_feat = ["category", "shop", "brand"] device = torch.device("cuda" if torch.cuda.is_available() else "cpu") n_epochs = args.n_epochs batch_size = args.batch_size lr = args.lr item_embed_size = args.embed_size feat_embed_size = args.embed_size hidden_size = (256, 128) #CosineEmbeddingLoss余弦相似度损失函数,用于判断输入的两个向量是否相似 #BCEWithLogitsLoss就是把Sigmoid-BCELoss合成一步,计算交叉损失熵 criterion = ( nn.CosineEmbeddingLoss() if args.loss == "cosine" else nn.BCEWithLogitsLoss() ) #lower将字符串中的所有大写字母转换为小写字母 criterion_type = ( "cosine" if "cosine" in criterion.__class__.__name__.lower() else "bce" ) neg_label = -1. if criterion_type == "cosine" else 0. neg_item = args.neg_item columns = ["user", "item", "label", "time", "sex", "age", "pur_power", "category", "shop", "brand"] ( n_users, n_items, train_user_consumed, eval_user_consumed, train_data, eval_data, user_map, item_map, feat_map#feature是特征比如数据集里 age, brand 之类的 ) = process_feat_data( PATH, columns, test_size=0.2, time_col="time", static_feat=static_feat, dynamic_feat=dynamic_feat ) print(f"n_users: {n_users}, n_items: {n_items}, " f"train_shape: {train_data.shape}, eval_shape: {eval_data.shape}") train_user, train_item, train_label = sample_items_random( train_data, n_items, train_user_consumed, neg_label, neg_item ) eval_user, eval_item, eval_label = sample_items_random( eval_d

from transformers import BertTokenizer, BertModel import torch from sklearn.metrics.pairwise import cosine_similarity # 加载BERT模型和分词器 tokenizer = BertTokenizer.from_pretrained('bert-base-chinese') model = BertModel.from_pretrained('bert-base-chinese') # 种子词列表 seed_words = ['个人信息', '隐私', '泄露', '安全'] # 加载微博用户文本语料(假设存储在weibo1.txt文件中) with open('output/weibo1.txt', 'r', encoding='utf-8') as f: corpus = f.readlines() # 预处理文本语料,获取每个中文词汇的词向量 corpus_vectors = [] for text in corpus: # 使用BERT分词器将文本分成词汇 tokens = tokenizer.tokenize(text) # 将词汇转换为对应的id input_ids = tokenizer.convert_tokens_to_ids(tokens) # 将id序列转换为PyTorch张量 input_ids = torch.tensor(input_ids).unsqueeze(0) # 使用BERT模型计算词向量 with torch.no_grad(): outputs = model(input_ids) last_hidden_state = outputs[0][:, 1:-1, :] avg_pooling = torch.mean(last_hidden_state, dim=1) corpus_vectors.append(avg_pooling.numpy()) # 计算每个中文词汇与种子词的余弦相似度 similarity_threshold = 0.8 privacy_words = set() for seed_word in seed_words: # 将种子词转换为对应的id seed_word_ids = tokenizer.convert_tokens_to_ids(tokenizer.tokenize(seed_word)) # 将id序列转换为PyTorch张量,并增加batch size维度 seed_word_ids = torch.tensor(seed_word_ids).unsqueeze(0) # 使用BERT模型计算种子词的词向量 with torch.no_grad(): outputs = model(seed_word_ids) last_hidden_state = outputs[0][:, 1:-1, :] avg_pooling = torch.mean(last_hidden_state, dim=1) seed_word_vector = avg_pooling.numpy() # 计算每个中文词汇与种子词的余弦相似度 for i, vector in enumerate(corpus_vectors): sim = cosine_similarity([seed_word_vector], [vector])[0][0] if sim >= similarity_threshold: privacy_words.add(corpus[i]) print(privacy_words) 上述代码运行后报错了,报错信息:ValueError: Found array with dim 3. check_pairwise_arrays expected <= 2. 怎么修改?

大家在看

recommend-type

新项目基于YOLOv8的人员溺水检测告警监控系统python源码(精确度高)+模型+评估指标曲线+精美GUI界面.zip

新项目基于YOLOv8的人员溺水检测告警监控系统python源码(精确度高)+模型+评估指标曲线+精美GUI界面.zip 【环境配置】 1、下载安装anaconda、pycharm 2、打开anaconda,在anaconda promt终端,新建一个python3.9的虚拟环境 3、激活该虚拟空间,然后pip install -r requirements.txt,安装里面的软件包 4、识别检测['Drowning', 'Person out of water', 'Swimming'] 【运行操作】 以上环境配置成功后,运行main.py,打开界面,自动加载模型,开始测试即可 可以检测本地图片、视频、摄像头实时画面 【数据集】 本项目使用的数据集下载地址为: https://download.csdn.net/download/DeepLearning_/89398245 【特别强调】 1、csdn上资源保证是完整最新,会不定期更新优化; 2、请用自己的账号在csdn官网下载,若通过第三方代下,博主不对您下载的资源作任何保证,且不提供任何形式的技术支持和答疑!!!
recommend-type

Handbook of PI and PID Controller Tuning Rules 3e

The vast majority of automatic controllers used to compensate industrial processes are PI or PID type. This book comprehensively compiles, using a unified notation, tuning rules for these controllers proposed from 1935 to 2008. The tuning rules are carefully categorized and application information about each rule is given. This book discusses controller architecture and process modeling issues, as well as the performance and robustness of loops compensated with PI or PID controllers. This unique publication brings together in an easy-to-use format material previously published in a large number of papers and books. This wholly revised third edition extends the presentation of PI and PID controller tuning rules, for single variable processes with time delays, to include additional rules compiled since the second edition was published in 2006.
recommend-type

中国AI安防行业:Ambarella业绩反映AI需求强劲.zip

中国AI安防行业:Ambarella业绩反映AI需求强劲
recommend-type

0065-极智AI-解读T4上商汤OpenPPL vs TensorRT7 vs TensorRT8性能对比修正-个人笔记

0065_极智AI_解读T4上商汤OpenPPL vs TensorRT7 vs TensorRT8性能对比修正-个人笔记
recommend-type

hanlp 自然语言处理入门

hanlp 自然语言处理入门 资料全

最新推荐

recommend-type

keras实现基于孪生网络的图片相似度计算方式

3. **计算相似度**:使用某种距离度量方法(如L1或L2距离,或者余弦相似度)计算两个特征向量的相似度。这里我们使用L2距离: ```python distance_layer = Lambda(lambda tensors: K.abs(tensors[0] - tensors[1])) ...
recommend-type

过年倒计时动画html过年倒计时代码/春节倒计时网页版【春节倒计时html】

过年倒计时动画html过年倒计时代码/春节倒计时网页版【春节倒计时html】 效果演示:https://www.ygwzjs.cn/cjdjs/ 备用一:cjdjswww.vbjcw.cn 备用二:cjdjswww.lxsjfx.cn 备用三:cjdjswww.seoheimao.cn 如果第一个看不了,就看其它备用的哦 过年倒计时动画html过年倒计时代码/春节倒计时网页版【春节倒计时html】
recommend-type

PowerShell控制WVD录像机技术应用

资源摘要信息:"录像机" 标题: "录像机" 可能指代了两种含义,一种是传统的录像设备,另一种是指计算机上的录像软件或程序。在IT领域,通常我们指的是后者,即录像机软件。随着技术的发展,现代的录像机软件可以录制屏幕活动、视频会议、网络课程等。这类软件多数具备高效率的视频编码、画面捕捉、音视频同步等功能,以满足不同的应用场景需求。 描述: "录像机" 这一描述相对简单,没有提供具体的功能细节或使用场景。但是,根据这个描述我们可以推测文档涉及的是关于如何操作录像机,或者如何使用录像机软件的知识。这可能包括录像机软件的安装、配置、使用方法、常见问题排查等信息。 标签: "PowerShell" 通常指的是微软公司开发的一种任务自动化和配置管理框架,它包含了一个命令行壳层和脚本语言。由于标签为PowerShell,我们可以推断该文档可能会涉及到使用PowerShell脚本来操作或管理录像机软件的过程。PowerShell可以用来执行各种任务,包括但不限于启动或停止录像、自动化录像任务、从录像机获取系统状态、配置系统设置等。 压缩包子文件的文件名称列表: WVD-main 这部分信息暗示了文档可能与微软的Windows虚拟桌面(Windows Virtual Desktop,简称WVD)相关。Windows虚拟桌面是一个桌面虚拟化服务,它允许用户在云端访问一个虚拟化的Windows环境。文件名中的“main”可能表示这是一个主文件或主目录,它可能是用于配置、管理或与WVD相关的录像机软件。在这种情况下,文档可能包含如何使用PowerShell脚本与WVD进行交互,例如记录用户在WVD环境中的活动,监控和记录虚拟机状态等。 基于以上信息,我们可以进一步推断知识点可能包括: 1. 录像机软件的基本功能和使用场景。 2. 录像机软件的安装和配置过程。 3. 录像机软件的高级功能,如自定义录像设置、自动化任务、音视频编辑等。 4. PowerShell脚本的基础知识,包括如何编写简单和复杂的脚本。 5. 如何利用PowerShell管理录像机软件,实现自动化控制和监控录像过程。 6. Windows虚拟桌面(WVD)的基本概念和使用方法。 7. 如何在WVD环境中集成录像功能,以及如何使用PowerShell进行相关配置和管理。 8. 录像数据的处理和存储,包括录像文件的格式、转码、备份和恢复等。 9. 录像机软件在企业环境中应用的策略和最佳实践。 10. 常见问题诊断和解决方法,以及如何使用PowerShell脚本来应对录像机软件出现的问题。 这个知识点总结覆盖了从基础操作到高级管理的多个方面,旨在为读者提供一个全面的录像机软件使用和管理的框架。通过这些知识点,IT专业人员可以更有效地部署、操作和维护录像机系统,确保录像机软件能够满足各种业务需求。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

Honeywell打印机驱动提升秘诀:从基础到高级配置的全方位解析

![HoneywellPrint_DLL_UM_CN.pdf](https://media.geeksforgeeks.org/wp-content/cdn-uploads/20190425160011/Anonymous-Types-in-C-1024x540.png) # 摘要 本文针对Honeywell打印机驱动的安装、配置、高级功能配置、故障诊断与优化以及安全与合规性进行了全面的介绍。首先概述了Honeywell打印机驱动的基础知识,随后详细阐述了驱动安装流程、基础打印设置及高级功能的实现。接着,文中探讨了打印机驱动在日常使用中可能遇到的常见问题及其解决方法,并提出了一系列打印性能优
recommend-type

Python输入三个数 a,b,c。判断能否以它们为三个边长构成直角三角形。若能,输出 YES,否则 输出NO。

在Python中,我们可以利用勾股定理来判断三个数a、b和c是否可以作为直角三角形的边长。如果满足a² + b² = c²,则这是一组直角三角形的三边;反之则不是。以下是一个简单的函数实现: ```python def is_right_triangle(a, b, c): if a**2 + b**2 == c**2 or a**2 + c**2 == b**2 or b**2 + c**2 == a**2: # 三种情况考虑,因为两边之和等于第三边的情况不属于常规直角三角形 return "YES" else: return "NO"
recommend-type

探索杂货店后端技术与JavaScript应用

资源摘要信息:"杂货店后端开发项目使用了JavaScript技术。" 在当今的软件开发领域,使用JavaScript来构建杂货店后端系统是一个非常普遍的做法。JavaScript不仅在前端开发中占据主导地位,其在Node.js的推动下,后端开发中也扮演着至关重要的角色。Node.js是一个能够使用JavaScript语言运行在服务器端的平台,它使得开发者能够使用熟悉的一门语言来开发整个Web应用程序。 后端开发是构建杂货店应用系统的核心部分,它主要负责处理应用逻辑、与数据库交互以及确保网络请求的正确响应。后端系统通常包含服务器、应用以及数据库这三个主要组件。 在开发杂货店后端时,我们可能会涉及到以下几个关键的知识点: 1. Node.js的环境搭建:首先需要在开发机器上安装Node.js环境。这包括npm(Node包管理器)和Node.js的运行时。npm用于管理项目依赖,比如各种中间件、数据库驱动等。 2. 框架选择:开发后端时,一个常见的选择是使用Express框架。Express是一个灵活的Node.js Web应用框架,提供了一系列强大的特性来开发Web和移动应用。它简化了路由、HTTP请求处理、中间件等功能的使用。 3. 数据库操作:根据项目的具体需求,选择合适的数据库系统(例如MongoDB、MySQL、PostgreSQL等)来进行数据的存储和管理。在JavaScript环境中,数据库操作通常会依赖于相应的Node.js驱动或ORM(对象关系映射)工具,如Mongoose用于MongoDB。 4. RESTful API设计:构建一个符合REST原则的API接口,可以让前端开发者更加方便地与后端进行数据交互。RESTful API是一种开发Web服务的架构风格,它利用HTTP协议的特性,使得Web服务能够使用统一的接口来处理资源。 5. 身份验证和授权:在杂货店后端系统中,管理用户账户和控制访问权限是非常重要的。这通常需要实现一些身份验证机制,如JWT(JSON Web Tokens)或OAuth,并根据用户角色和权限管理访问控制。 6. 错误处理和日志记录:为了保证系统的稳定性和可靠性,需要实现完善的错误处理机制和日志记录系统。这能帮助开发者快速定位问题,以及分析系统运行状况。 7. 容器化与部署:随着Docker等容器化技术的普及,越来越多的开发团队选择将应用程序容器化部署。容器化可以确保应用在不同的环境和系统中具有一致的行为,极大地简化了部署过程。 8. 性能优化:当后端应用处理大量数据或高并发请求时,性能优化是一个不可忽视的问题。这可能包括数据库查询优化、缓存策略的引入、代码层面的优化等等。 通过以上知识点的综合运用,我们可以构建出一个功能丰富、性能优化良好并且可扩展性强的杂货店后端系统。当然,在实际开发过程中,还需要充分考虑安全性、可维护性和测试等因素。
recommend-type

"互动学习:行动中的多样性与论文攻读经历"

多样性她- 事实上SCI NCES你的时间表ECOLEDO C Tora SC和NCESPOUR l’Ingén学习互动,互动学习以行动为中心的强化学习学会互动,互动学习,以行动为中心的强化学习计算机科学博士论文于2021年9月28日在Villeneuve d'Asq公开支持马修·瑟林评审团主席法布里斯·勒菲弗尔阿维尼翁大学教授论文指导奥利维尔·皮耶昆谷歌研究教授:智囊团论文联合主任菲利普·普雷教授,大学。里尔/CRISTAL/因里亚报告员奥利维耶·西格德索邦大学报告员卢多维奇·德诺耶教授,Facebook /索邦大学审查员越南圣迈IMT Atlantic高级讲师邀请弗洛里安·斯特鲁布博士,Deepmind对于那些及时看到自己错误的人...3谢谢你首先,我要感谢我的两位博士生导师Olivier和Philippe。奥利维尔,"站在巨人的肩膀上"这句话对你来说完全有意义了。从科学上讲,你知道在这篇论文的(许多)错误中,你是我可以依
recommend-type

【松下伺服故障预防与维护手册】:从报警代码中提炼出的维护要诀

![【松下伺服故障预防与维护手册】:从报警代码中提炼出的维护要诀](https://assets.content.na.industrial.panasonic.com/public/inline-images/panasonic-servos-%26-drives-grp-photo-rgb-1105-x-370-09-07-22.png?VersionId=f9eJ1OTTrsuzTPjWGmGokgWMpIMwEE0Q) # 摘要 伺服系统是确保工业自动化设备稳定运行的关键组成部分,故障预防、诊断分析、维护实践以及修复技术是提高系统稳定性和减少停机时间的重要手段。本文首先概述了伺服系统
recommend-type

编写一个类实现模拟汽车的功能

在Python中,我们可以编写一个简单的`Car`类来模拟汽车的基本功能,比如品牌、型号、颜色以及一些基本操作,如启动、行驶和停止。这里是一个基础示例: ```python class Car: def __init__(self, brand, model, color): self.brand = brand self.model = model self.color = color self.is_running = False # 模拟启动 def start(self): if