fastgpt ollama linux

### 安装和配置

#### 准备工作
为了在Linux系统上成功安装并使用FastGPT与Ollama，需先确认已安装必要的基础工具。这包括但不限于Docker及其扩展组件docker-compose。

#### Docker安装
对于未安装Docker的情况，可以通过官方文档获取最新的安装指导[^2]。通常情况下，在大多数Linux发行版中执行如下命令可以完成快速安装：

sudo apt-get update && sudo apt-get install -y docker.io docker-compose

#### 获取项目资源
前往指定网站下载所需的`docker-compose.yml`文件以及通过Ollama官方网站针对Linux系统的特定指令来准备环境[^1]。

#### 创建虚拟环境及依赖项管理
考虑到Python版本兼容性和包冲突等问题，推荐创建独立的Conda环境来进行开发测试活动。具体操作如下所示[^3]:

conda create --name ChatGLM3 python=3.11
conda activate ChatGLM3
pip install -r requirements.txt -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install tiktoken

#### 启动服务
当所有前置条件满足之后，利用docker-compose启动关联的服务实例:

docker-compose up -d

此过程将会依据之前定义好的配置自动拉取镜像、初始化数据卷，并最终使各个微服务正常运作起来。

#### 配置调整
根据实际需求可能还需要进一步优化某些参数设置或路径映射关系，确保整个平台能够稳定高效地提供预期功能。

#### 访问应用
一旦上述步骤顺利完成，则可通过浏览器或其他HTTP客户端访问部署完毕后的FastGPT接口端点，开始体验由本地自托管的大规模预训练语言模型所带来的便捷之处。