chatglm 知识库
时间: 2023-08-08 11:09:07 浏览: 335
引用\[1\]:chatGLM-6B是基于General Language Model架构,使用了和ChatGLM技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术,具有 62 亿参数的LLM。引用\[2\]:模型下载完成后,请在 configs/model_config.py 文件中,对embedding_model_dict和llm_model_dict参数进行修改。embedding_model_dict中的"ernie-tiny"和"ernie-base"是用于embedding的模型,而llm_model_dict中的"chatyuan"和"chatglm-6b-int4-qe"等是用于chatglm的知识库模型。引用\[3\]:chatglm的核心技术是向量embedding,将用户知识库内容经过embedding存入向量知识库,然后用户每一次提问也会经过embedding,利用向量相关性算法(例如余弦算法)找到最匹配的几个知识库片段,将这些知识库片段作为上下文,与用户问题一起作为prompt提交给LLM回答。
根据以上引用内容,chatglm的知识库可以通过修改llm_model_dict参数来指定。在llm_model_dict中,可以使用"chatglm-6b"来指定chatglm的知识库模型。\[1\]\[2\]
#### 引用[.reference_title]
- *1* [基于langchain+chatGLM搭建部署本地私有化知识库系统](https://blog.csdn.net/Together_CZ/article/details/131326288)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
- *2* *3* [基于 ChatGLM-6B 搭建个人专属知识库](https://blog.csdn.net/sj5590155/article/details/130689169)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]
阅读全文