1.rag配置2.模型配置 3.兜底的一些配置

在构建RAG（Retrieval Augmented Generation）模型时，配置主要包括两个部分：1) 文档加载和检索配置；2) LangChain的prompt模板和模型参数设置。

1. **文档加载配置**[^1]:
- **本地文件加载**: 使用特定的文档加载模块（如`Document loaders`），需要根据文件路径来加载本地文档。

- **在线PDF文件加载**: 如果是在线资源，可能需要安装适当的库并配置网络访问权限，示例代码通常会说明具体步骤。

2. **模型配置**[^2]:
- **Text Splitting**: 切分文本成小片段，这些片段将是检索的目标，比如通过`Text Splitting`模块进行操作。
- **Text embedding models**: 对每个文档片段创建嵌入表示，以便于相似性搜索。这涉及到选择合适的预训练模型（如BERT、RoBERTa等）。
- **Vector stores**: 如何存储和管理这些向量，可能是基于内存（例如In-memory storage）或数据库（如Faiss）。

3. **兜底配置**:
- **Indexing**: 建立索引以高效地查询相关的文档片段。不同的检索模式（Deletion modes）会影响召回率和速度。
- **Prompt模板**: 在LangChain中，用于调用模型生成响应的输入结构，包括检索的关键信息和生成任务的要求。
- **性能调整**: 考虑内存使用、CPU负载等因素，可能需要调整批大小、序列长度等超参数。