构建文档搜索工具:使用sentence transformers和chatglm技术
版权申诉
190 浏览量
更新于2024-10-01
收藏 1.21MB ZIP 举报
资源摘要信息:"本节课程主要介绍了如何利用人工智能中的自然语言处理技术,结合sentence transformers和chatglm模型,开发出一个文档搜索工具。课程以命令行形式展示,具体实现代码包含在名为demo.py的文件中。
首先,我们了解到该工具主要采用命令行界面运行。在demo.py文件中,提供了通过自然语言提问来获取相关文档信息的功能。代码中包含了一个关键的函数search_result,该函数可以接收一个字符串类型的参数question_str,也就是用户的查询问题。例如,在描述中提到的查询问题"大学生创业有什么补贴",通过调用search_result函数,将返回与此问题相关的搜索结果和数据。
为了运行这个搜索工具,需要将用户自己的文件夹路径设置为global_dir,这样才能正确地加载和搜索用户存储的政策归档文件。代码中的global_dir = "政策归档文件"是示例代码,需要用户根据实际情况修改,比如将其设置为自己的文件夹路径。
此外,该工具还提供了web端的访问方式。要运行web端的程序,需要使用streamlit工具,并在命令行中运行"streamlit run web_ui.py --server.fileWatcherType none"。通过这种方式,用户可以通过网页界面进行操作,而不需要直接处理命令行。
课程中还强调了使用sentence transformers和chatglm这两个模型来实现搜索功能。sentence transformers是一种基于Transformer的模型,主要用于处理句子级别的嵌入表示,适合用于文本相似度匹配等任务。chatglm则是由腾讯AI Lab提出的一种生成式预训练语言模型,擅长理解和生成自然语言文本。这两种模型的结合,使得文档搜索工具能够更准确地理解和处理自然语言查询,并在大量文档中快速找到相关性最高的文档。
本节课程主要涉及的知识点包括人工智能、自然语言处理、Transformer模型、命令行操作以及streamlit工具的使用。对于想要深入了解或开发类似文档搜索工具的开发者来说,本节课程的内容是十分有价值的。"
【标题】:"人工智能-自然语言处理-基于sentence transformers和chatglm实现的文档搜索工具"
【描述】:"命令行形式
demo.py文件里面
if __name__ == "__main__":
global_dir = "政策归档文件" # 你自己的文件夹
kl = KnowLedge(global_dir=global_dir)
res, data = kl.search_result(question_str="大学生创业有什么补贴") # 你想问什么呢
print(res)
print(data)
web端
注意修改code-21行的代码global_dir = "政策归档文件"
streamlit run web_ui.py --server.fileWatcherType none"
【标签】:"人工智能 自然语言处理 transformers chatglm"
【压缩包子文件的文件名称列表】: DocumentSearch-main
2023-07-18 上传
2022-02-11 上传
2024-08-05 上传
2024-01-24 上传
2024-10-02 上传
2023-04-02 上传
2019-08-10 上传
2021-05-10 上传
2022-05-12 上传
博士僧小星
- 粉丝: 2197
- 资源: 5973
最新资源
- BGP协议首选值(PrefVal)属性与模拟组网实验
- C#实现VS***单元测试coverage文件转xml工具
- NX二次开发:UF_DRF_ask_weld_symbol函数详解与应用
- 从机FIFO的Verilog代码实现分析
- C语言制作键盘反应力训练游戏源代码
- 简约风格毕业论文答辩演示模板
- Qt6 QML教程:动态创建与销毁对象的示例源码解析
- NX二次开发函数介绍:UF_DRF_count_text_substring
- 获取inspect.exe:Windows桌面元素查看与自动化工具
- C语言开发的大丰收游戏源代码及论文完整展示
- 掌握NX二次开发:UF_DRF_create_3pt_cline_fbolt函数应用指南
- MobaXterm:超越Xshell的远程连接利器
- 创新手绘粉笔效果在毕业答辩中的应用
- 学生管理系统源码压缩包下载
- 深入解析NX二次开发函数UF-DRF-create-3pt-cline-fcir
- LabVIEW用户登录管理程序:注册、密码、登录与安全